La IA que no estorba: el humano decide y el agente ejecuta

Un despacho de arquitectos en Atizapán puso un agente de IA a cobrar. Primera semana, bien: recordatorios, promesas de pago, dos depósitos confirmados. Segunda semana, el agente le mandó tres recordatorios en un día a su cliente más grande, un desarrollador que debía una factura de hace dos meses y con el que la socia estaba negociando un proyecto nuevo. El cliente llamó molesto. La socia apagó el agente.

El agente no se equivocó en lo técnico. La factura estaba vencida y la regla decía “recordar”. Lo que faltó fue una regla más simple: con ciertos clientes, antes de escribir, pregunta.

A eso se le llama human-in-the-loop, el humano dentro del circuito. Es el principio de diseño que separa a un agente que ayuda de uno que estorba. Y no es una ocurrencia mía: lo recomiendan los que construyen estos modelos, lo pide el marco de riesgo de IA del NIST y, desde 2025, lo contempla la ley mexicana de datos personales.

Qué dicen Anthropic y OpenAI

Anthropic, en su guía sobre cómo construir agentes de diciembre de 2024, describe al agente como algo que arranca con una instrucción humana, trabaja solo y regresa con la persona cuando necesita información o criterio. Dice que los agentes pueden pausar en puntos de revisión o cuando se topan con un obstáculo. Y recomienda algo que suena obvio pero casi nadie hace: condiciones de paro, como un número máximo de intentos, para mantener el control.

OpenAI, en su guía práctica de 2025, va más al detalle. Propone clasificar cada herramienta del agente por riesgo (bajo, medio, alto) y pausar las acciones de alto riesgo para revisión. Y define dos momentos en que el agente debe pasar el control a una persona: cuando falla varias veces en entender lo que quiere el cliente, y cuando la acción es sensible, irreversible o de alto impacto. Sus ejemplos: cancelar pedidos, autorizar reembolsos grandes, hacer pagos.

Las dos guías coinciden en el fondo: la autonomía del agente se gana con confianza, y la confianza se construye con límites claros y con una persona que puede intervenir. Anthropic lo dice sin rodeos: necesitas cierto nivel de confianza en las decisiones del modelo antes de soltarlo.

Qué dice el marco de riesgo de NIST

El NIST, el instituto de estándares de Estados Unidos, publicó en enero de 2023 su marco de gestión de riesgos de IA (AI RMF 1.0). Es voluntario, pero es la referencia que usan auditores y aseguradoras cuando preguntan “¿cómo controlas tu IA?”.

El marco lista siete características de una IA confiable; dos te importan directo. “Accountable and transparent”: alguien responde por lo que hace el sistema, y se puede ver qué hizo. Y “safe”: el sistema no causa daño cuando falla. El propio documento dice que la gestión de riesgo puede requerir intervención humana cuando el sistema no detecta ni corrige sus errores.

Traducido al despacho de arquitectos: alguien tenía que poder ver que el agente iba a mandar tres recordatorios al cliente grande, y detenerlo. Eso es “accountable”. Que quedara registro de los tres mensajes es “transparent”. Nada de esto es tecnología sofisticada. Es diseño.

Qué dice la ley mexicana

Aquí viene la parte que casi ningún proveedor de agentes menciona. La nueva Ley Federal de Protección de Datos Personales en Posesión de los Particulares, publicada en el DOF el 20 de marzo de 2025, incluye en su artículo 26 el derecho del titular a oponerse al tratamiento de sus datos cuando sean objeto de un tratamiento automatizado que le produzca efectos jurídicos no deseados o afecte de manera significativa sus intereses, y que esté destinado a evaluar, sin intervención humana, aspectos como su situación económica, fiabilidad o comportamiento.

Léelo con calma: un agente que decide solo si un cliente es “moroso de riesgo” y actúa en consecuencia, sin que nadie revise, cae en lo que el titular puede impugnar. Un agente que propone y una persona aprueba, no. El human-in-the-loop no es solo buena práctica: es la forma de operar un agente sin abrir un frente legal.

Cómo se ve en la práctica: proponer, no decidir

De los negocios donde he puesto agentes, la regla que mejor funciona es esta: el agente ejecuta lo repetitivo y propone lo que requiere criterio. Decidir es de la persona.

En un Empleado Digital eso se diseña tarea por tarea. En cobranza: recordatorios y confirmación de depósito, solos; promesas de pago fuera de plazo, cuentas arriba de cierto monto y clientes marcados como sensibles, con aprobación del dueño antes de escribir. En citas: agendar y confirmar, solo; cancelar por tercera vez al mismo paciente, lo revisa la recepcionista. En facturación: validar y timbrar, solo; notas de crédito y cancelaciones, una persona.

Y tres reglas transversales que aplicamos siempre:

1. Lista de “nunca solo”. Pagos, cancelaciones, descuentos, cambios de datos bancarios y cualquier mensaje a un cliente marcado como sensible. El agente prepara, la persona aprueba.
2. Tope de intentos. Si el agente no entiende dos veces, pasa la conversación. No insiste ni improvisa.
3. Registro visible. El dueño ve cada tarea que el agente hizo, qué propuso y quién aprobó. Sin cajas negras.

Esto es lo que en AgileNext llamamos “una persona siempre detrás”. No es que haya alguien vigilando cada mensaje; es que el agente sabe qué no le toca y a quién preguntar.

Qué puedes hacer esta semana

1. Si ya tienes un bot o un agente, haz una lista de las acciones que puede ejecutar solo. Marca las que son irreversibles o tocan dinero. Esas deberían pedir aprobación.
2. Pregúntale a tu proveedor qué pasa cuando el agente no entiende: ¿cuántas veces insiste antes de pasar con una persona? Si no sabe, no hay tope.
3. Revisa que puedas ver el historial completo de lo que hizo el agente la semana pasada. Si no puedes, hay una caja negra.
4. Haz una lista corta de clientes “sensibles” con los que ningún sistema debe escribir sin que alguien lo vea.
5. Agrega a tu aviso de privacidad, con tu abogado, cómo puede una persona oponerse a un tratamiento automatizado de sus datos. La ley de 2025 ya lo contempla.

Cómo ayuda AgileNext

Un Empleado Digital de AgileNext se diseña con la regla de “una persona siempre detrás”: cada tarea tiene definido qué hace el agente solo, qué propone y qué requiere aprobación, con registro de todo. Empezamos con un diagnóstico de proceso sin costo donde mapeamos juntos esas decisiones antes de prender nada.

Agenda tu diagnóstico de proceso sin costo y revisamos quién decide qué en tu agente.

Te puede interesar: Cuánto cuesta un agente de IA (y cuánto cuesta no tenerlo) · Facturación por WhatsApp sin capturar nada