Mantener agentes de IA en marcha tras el lanzamiento: congelar, contar, presupuestar

El lanzamiento es una decisión de verificación

Un agente que sobrevive al lanzamiento tiene un verificador, un denominador y un revisor antes de su primera tarea. El estudio de SumatoSoft encontró que 32 de 40 participantes, un 80 %, detuvieron, limitaron o apagaron un agente una vez que estaba en producción. La previsión de Gartner de junio de 2025 esperaba que más del 40 % de los proyectos de IA agéntica fueran cancelados antes de finales de 2027. El error común es el mismo: el agente se construye, pero el sistema de prueba no. El operador debe poder responder qué cuenta como terminado, qué se tocó y quién revisa el resultado.

Los datos de autonomía de la misma muestra muestran la brecha de control. De 39 despliegues clasificados por autonomía, el 25,6 % eran agentes de IA sin supervisión. El 74,4 % restante permanecía en una puerta de control humano, mapeado a los niveles de autonomía L1 a L3. La mayoría de los operadores aún necesitan una persona entre el agente y el radio de impacto. Esta división es una señal de que la capa de control sigue siendo humana, no un veredicto sobre la calidad del modelo.

Tres controles constituyen la puerta de lanzamiento

• Congela el verificador antes de que comience el trabajo.
• Cuenta el denominador en cada lectura.
• Presupuesta la capacidad de revisión junto con la capacidad de construcción.

La verificación presupuestada mantiene los agentes en marcha

Congela el verificador antes de que comience el trabajo. El verificador es la prueba de aceptación, el estándar de evidencia y la regla de parada. Debe definir qué cuenta como terminado, qué cuenta como incorrecto, qué evidencia cierra el ciclo y quién puede modificar la prueba tras el lanzamiento. Si el verificador puede cambiar después de que el agente comience, el agente optimiza un objetivo en movimiento. Fija la versión, almacena los criterios y haz la prueba visible para el operador en lugar de ocultarla en un prompt o en una tooltip del panel. Un verificador congelado da al equipo una definición estable de éxito y una razón defendible para detener el trabajo.

Los 32 fallos del estudio incluyeron 11 errores de alcance o contexto, 8 falsos informes de éxito y 3 casos en los que las comprobaciones automatizadas pasaron mientras se perdía el objetivo previsto. Una marca de verificación verde solo demuestra que la prueba se ejecutó. El verificador debe detectar trabajo que parece terminado pero no lo es. Compara la salida con el objetivo previsto, no solo con el formato solicitado. La regla de parada debe ser explícita: si la evidencia no cierra el ciclo, el agente no continúa.

Cuenta el denominador en cada lectura. Una métrica sin población es inútil. La lectura debe nombrar el subconjunto y el total cuando el agente procesó un subconjunto, indicar por qué omitió tareas y mostrar el antes y el después cuando modificó la lista de tareas. El denominador le dice al operador si el agente es útil, inactivo o limitado, y evita que un pequeño éxito se confunda con un sistema funcional. También da al revisor un límite claro de lo que se produjo realmente.

La división de autonomía eleva la apuesta. Los agentes sin supervisión necesitan una población clara porque ningún humano vigila cada paso. Los agentes con puerta de control la necesitan porque una métrica vaga puede abrumar la puerta humana. Cuando el operador no puede decir qué tocó el agente, qué dejó intacto y cuál era el total, la puerta es débil. Un denominador es la evidencia mínima de que la puerta ve la tarea completa, no una muestra parcial.

Presupuesta la capacidad de revisión junto con la capacidad de construcción. Sin un revisor asignado, el agente se estanca o se publica sin revisar. Para 14 encuestados de ingeniería, la mediana de la proporción de código escrito por el agente que llegó a la rama principal sin revisión humana fue del 0 %. Esa mediana muestra cuánto se sigue racionando la confianza. La capacidad de revisión es la parte del sistema que impide que el agente se convierta en una carga. Programa al revisor, establece la ventana de revisión y define qué pasa cuando la revisión se retrasa.

La capacidad de revisión también fija el límite de autonomía. Un equipo de revisión pequeño sostiene un agente limitado. Un equipo amplio sostiene un alcance más amplio. Sin capacidad de revisión, el agente permanece tras una puerta de control humano. La línea presupuestaria debe nombrar a la persona, las horas y la vía de escalado. Cuando esa línea desaparece, detén el agente hasta que se restablezca la capacidad de revisión.