Puerta de agentes en producción: seis controles que convierten un desarrollo de fin de semana en una operación auditable

La puerta es el producto

Un agente no está listo para producción porque puede realizar una tarea útil. Está listo para producción cuando la organización puede demostrar auditabilidad: qué puede tocar, cuánto puede gastar, cuándo debe detenerse, qué hizo, cómo deshacerlo y quién responde cuando falla.

El agente inicial carecía de límites, registros y puertas de aprobación humana. Podía llegar demasiado lejos, no dejar rastro y actuar antes de que una persona pudiera decir que no.

La solución no fue otra función. La semana siguiente se dedicó a trabajo de gobernanza en lugar de capacidad.

Los agentes de producción fallan en las brechas entre capacidad y controles operativos. El modelo puede ser fuerte. El flujo de trabajo puede ser útil. El riesgo sigue siendo el mismo: un actor automatizado con alcance, costo y consecuencias. La puerta existe para hacer explícitas esas consecuencias.

Seis controles que hacen auditable a un agente

1. Permisos. Define el límite antes de que el agente se ejecute. Nombra los sistemas, tablas, operaciones y solicitudes fuera de alcance que debe respetar. Es un límite.
2. Límites de gasto. Establece un techo duro para las llamadas al modelo, la salida de datos, el almacenamiento y las acciones aguas abajo. El límite debe ser visible para el operador y aplicable por el sistema. Si el agente puede seguir trabajando después de que se agote el presupuesto, no está gobernado.
3. Puertas de aprobación humana. Coloca puntos de intervención explícitos donde el agente se detiene y espera a una persona en lugar de continuar porque continuar era técnicamente posible. Es una condición de parada.
4. Observabilidad. Haz que cada acción deje un registro duradero que sobreviva a la sesión.
5. Reversión. Diseña la ruta de deshacer antes de la primera ejecución. Si un cambio no puede revertirse, necesita una puerta de aprobación más fuerte o un diseño diferente. La reversión no es limpieza. Es parte del modelo de permisos.
6. Respuesta a incidentes. Nombra al responsable, la alerta, la ruta de escalado y la condición de parada. Un incidente de agente no es un problema del modelo hasta que una persona decide que lo es. El plan de respuesta debe cubrir una acción descontrolada, una aprobación faltante y una infracción del presupuesto.

Qué hacer antes de desplegar

1. Escribe el mapa de permisos. Lista cada sistema, tabla, operación y llamada externa que el agente puede usar. Marca todo lo demás como fuera de alcance. Revisa el mapa con el equipo que es propietario de los datos afectados.
2. Establece el techo de gasto. Elige el límite, el medidor y el interruptor de parada. Prueba que el agente se detiene cuando se alcanza el techo. Confirma que el operador puede ver el presupuesto restante antes de que el agente actúe.
3. Elige las puertas de aprobación. Para cada acción de alto riesgo, decide quién aprueba, qué evidencia ve y cuánto tiempo puede esperar la solicitud. Si nadie puede aprobar, la acción no debe estar disponible.
4. Construye el registro. Captura la solicitud, la decisión, la acción, el resultado y la identidad del actor. Haz que el registro sea lo suficientemente duradero como para sobrevivir a un análisis posmortem. Un registro que desaparece con la sesión no es un registro.
5. Prueba la reversión. Ejecuta el agente contra una copia de preproducción. Fuerza una acción incorrecta. Demuestra que la ruta de deshacer funciona. Si la ruta de deshacer depende de que una persona recuerde un paso, no es fiable.
6. Realiza el simulacro de incidente. Simula una acción descontrolada, una aprobación faltante y una infracción del presupuesto. Confirma que el equipo puede detener al agente y explicar qué pasó. El simulacro debe terminar con una nota escrita: qué falló, quién lo detuvo y qué cambió.

La gobernanza de agentes no es una tarea de configuración. Es trabajo recurrente que debe incluirse en el presupuesto, no solo un costo de desarrollo único.

La puerta de producción es simple. Si no puedes mostrar los límites, el límite de gasto, el punto de aprobación, el registro, la ruta de reversión y el responsable del incidente, el agente no está listo. Despliega primero los controles. Luego despliega el agente.