El riesgo real de los agentes autónomos: el proceso que nunca escribiste

El agente autónomo no es el riesgo. El proceso que nunca escribiste, sí.

La mayoría de los textos sobre riesgos de los agentes autónomos imaginan un escenario de laboratorio: una inteligencia artificial que persigue un objetivo propio y se sale del control de quien la programó. Es un riesgo real, y hay equipos enteros dedicados a vigilarlo en los modelos grandes. Pero si gestionas una empresa de servicios, ese no es el que te va a doler el lunes. El que te va a doler es dar permiso a una herramienta para actuar sola sobre un proceso que nadie ha puesto por escrito.

El miedo que ocupa los titulares no es el que te va a doler

Los informes de seguridad en IA llevan meses hablando de agentes que manipulan a su operador, ocultan información o persiguen un objetivo distinto del que se les dio. Si quieres el repaso completo de esos riesgos de fondo, ya los cubrimos en este artículo sobre agentes autónomos y seguridad. Son escenarios de los que hay que ocuparse, pero ocurren en el entrenamiento de los modelos grandes, no en el agente que vas a conectar a tu buzón de correo esta semana.

El riesgo de esta semana es más aburrido y más caro. Una asesoría que recibe 60 emails al día puede montar un agente que clasifique cada mensaje: si es una factura, la archiva; si es una consulta, redacta un borrador de respuesta; si es una solicitud de presupuesto, la registra en el CRM y avisa al comercial. Funciona bien mientras cada correo encaja en una de esas tres categorías. El problema llega el día que entra uno que no encaja en ninguna, y el agente decide algo por su cuenta porque nadie le dejó una instrucción para lo que no estaba previsto. Atender rápido también compite por la atención del cliente, y ese terreno se mueve deprisa: ya lo repasamos en el cambio en la forma de captar la atención con IA.

El primer riesgo real: delegar sin fijar el terreno

Un agente autónomo necesita permisos para hacer su trabajo: acceso al correo, al CRM, a la agenda, a veces a la cuenta bancaria. El error no es dar esos permisos. El error es darlos todos de golpe sin fijar antes el terreno donde puede actuar solo y el terreno que necesita confirmación humana.

Una clínica de fisioterapia que recibe 40 mensajes al día del tipo «¿tenéis hueco el martes?» puede dejar que el agente conteste y reserve sin que nadie lo revise: el coste de un error ahí es bajo, como mucho una cita mal puesta que se corrige con una llamada. Dar ese mismo nivel de autonomía a un agente que negocia condiciones de pago con un proveedor, o que aplica un descuento por su cuenta a un cliente concreto, es otra categoría de decisión. Lo que marca el límite es lo reversible que sea el error si el agente se equivoca, y esa cuenta hay que hacerla antes de activar nada. La velocidad a la que se despliegan estos sistemas tampoco da tregua para improvisarla sobre la marcha, y las tendencias de IA que vienen apuntan a que ese ritmo solo va a subir.

El segundo riesgo real: automatizar un proceso que nunca se escribió

El riesgo que casi nadie menciona es el que más factura revienta: montar un agente sobre un proceso que solo vive en la cabeza de una persona. Si tu forma de responder a un cliente cambia según la persona que esté ese día detrás del teléfono, un agente no va a estandarizar nada. Va a copiar esa variabilidad y la va a ejecutar más rápido, con la autoridad de un sistema que parece saber lo que hace.

Esto ya se veía con la automatización tradicional, y con un agente autónomo el efecto se multiplica, porque el sistema toma decisiones en cada paso, no se limita a repetir uno fijo. Antes de darle autonomía hace falta escribir el proceso que va a ejecutar: las entradas, las salidas, las excepciones que puedan surgir y la persona responsable de resolverlas. Documentar un proceso no resta tiempo, lo devuelve, y en este caso es además el paso que decide si automatizar reduce el desorden o lo multiplica.

Tres decisiones que pesan más que la tecnología

De lo que hay que resolver antes de activar un agente autónomo, tres cosas pesan más que el resto.

La primera es el límite de autonomía: separar las acciones que el agente ejecuta solo de las que solo propone y esperan confirmación. Responder una reserva, autonomía total. Negociar un pago con un proveedor, confirmación humana siempre.

La segunda es el registro. Cada acción del agente debe quedar escrita en algún sitio: la decisión tomada, los datos que usó y el momento exacto. Sin ese registro, cuando algo sale mal nadie puede reconstruir el motivo, y la reacción habitual es apagar el sistema entero en vez de corregir el punto que falló.

La tercera, y la que más se salta, es probar en un segmento pequeño antes de soltar el agente sobre toda la operación. Diez conversaciones reales antes de mil. El error que aparece en diez se corrige en una tarde. El mismo error repetido mil veces ya es una crisis de atención al cliente. Es el mismo criterio que seguimos en McSpot al montar procesos automatizados: probar pequeño, medir y solo después escalar.

No todas las empresas están listas para dar autonomía a un agente

Decirlo sin rodeos es parte de la postura de este artículo: dar autonomía a un agente no le sirve a cualquier empresa.

No le sirve a una de dos o tres personas sin ningún proceso escrito. Ahí el problema no es el agente: es que todavía no hay nada estable que automatizar, y un sistema autónomo sobre el caos solo produce caos más rápido. Tampoco le sirve a quien quiere dar autonomía total desde el primer día para decisiones de alto impacto —firmar un contrato, aprobar un gasto grande, prescindir de un empleado— sin que una persona revise el resultado antes de que surta efecto. El camino que funciona empieza con el agente proponiendo y una persona aprobando, y solo con el registro de aciertos y errores delante se amplía ese margen.

Si tu empresa todavía no tiene su forma de trabajar puesta por escrito, ese es el primer paso, y va antes que cualquier agente.

Auditoría gratuita

Si no tienes claro el primer paso para estandarizar antes de dar autonomía a un agente, te lo miramos.