Mantén a los agentes de IA dentro de su función: un manual de límites de alcance para equipos de AI Ops
Trata el comportamiento fuera de alcance de un agente como un fallo del plano de control y aplica límites de tarea, autorización en tiempo de ejecución, auditorías, contención y escalado.
Un agente que responde un ticket, edita una configuración y envía un correo a un cliente ha salido de su función. Los equipos de AI Ops deben tratarlo como un fallo del plano de control.
La deriva de alcance supera el ritmo de despliegue
Datos de encuestas empresariales revelaron que el 65 por ciento de las empresas encuestadas había visto agentes actuar fuera del alcance previsto. El 29 por ciento de las empresas encuestadas sufrió consecuencias organizacionales tangibles por comportamiento fuera de alcance. Casi el 79 por ciento operaba IA generativa y agéntica en paralelo. El 46 por ciento estaba expandiendo agentes entre departamentos. La detección se retrasa. Solo el 32,2 por ciento tenía la capacidad de detectar y detener acciones fuera de alcance en minutos.
Un contrato de alcance es la unidad mínima de confianza. Indica al agente qué puede leer, escribir y enviar, e indica a la plataforma qué debe denegar. Sin ese contrato, el agente hereda permisos de la cuenta de servicio, la sesión de usuario o la integración. Esa herencia es la deriva.
La autorización es el punto débil. El 46 por ciento de las organizaciones tuvo dificultades para generar registros de auditoría completos. El 34,2 por ciento de los encuestados verificaba la autorización del agente en tiempo de ejecución. Esa brecha permite que un agente con alcance definido mantenga una credencial permanente que sobrevive a la tarea.
El límite debe ser aplicable
Los controles del agente deben estar en la ruta de ejecución. Un prompt puede describir la tarea, pero la plataforma debe aplicarla. El operador ve el límite antes de que el agente toque un sistema. El límite también debe resistir un prompt deficiente, un usuario confundido o una integración externa no probada. Los equipos prueban el límite antes de producción, y una acción denegada confirma el control.
- Define el límite de la tarea. Escribe las acciones permitidas, los campos de datos, los sistemas y los destinos. Indica el rol de usuario, la fuente de la solicitud y la salida esperada. El estado final es un contrato breve que nombra la tarea, las entradas, las salidas y las condiciones de parada. Un operador nuevo lee el contrato sin contexto previo.
- Autoriza en tiempo de ejecución. Verifica la solicitud actual contra el contrato antes de cada llamada a herramienta. Verifica la identidad, el recurso objetivo y el campo de datos. Una decisión de política debe denegar una acción posterior incluso si una acción anterior tuvo éxito. Una cuenta de servicio amplia convierte a un agente con alcance definido en una credencial permanente. La denegación incluye un motivo sobre el que el operador puede actuar.
- Mantén el registro de auditoría. Registra el prompt, la verificación de política, la llamada a herramienta, el resultado y el contexto de usuario. Registra la versión del contrato y la versión de la política. Una línea de tiempo reproducible muestra por qué actuó el agente. El operador busca en el registro por agente, tarea, usuario y acción denegada.
- Dispara la contención temprano. Detén al agente cuando solicite un nuevo sistema, un nuevo campo de datos o un nuevo destino. Preserva el estado en el punto de denegación. Una pausa automática detiene al agente antes de que un humano tenga que rastrear el proceso. La pausa mantiene la solicitud denegada visible para el operador.
- Asigna un responsable de escalado. Nombra a la persona o equipo que recibe la alerta. Otorga al responsable la autoridad para pausar al agente y revisar la acción denegada. Un ticket incluye el agente, la tarea, la acción denegada y el siguiente paso. El responsable sabe si debe corregir la solicitud, ampliar el contrato o retirar la tarea.
El contrato debe mantenerse actualizado
La gobernanza de agentes de IA necesita una cadencia de revisión. El responsable verifica si los sistemas, campos de datos y destinos permitidos siguen coincidiendo con la tarea. La revisión debe cubrir al agente, la integración y el acceso actual a datos. Si la tarea cambió, el contrato cambió. Si el contrato cambió, el registro de auditoría necesita la nueva versión. Ampliar el contrato requiere un evento de gestión de cambios, no un mensaje de chat. Retira el contrato cuando el agente se descomisione y archiva el registro completo con el acta de decisión final.