Cuando los agentes de IA se desvían, la vigilancia se convierte en infraestructura crítica — 1
El sistema combina sondas amplias, un modelo revisor, agentes investigadores, telemetría e intervención humana. OpenAI afirma que vigila entrenamientos y evaluaciones de frontera y el tráfico interno de Codex. Algunos despliegues externos pueden detener una conversación o emitir una alerta, aunque la cobertura depende del producto.
Cuando los agentes de IA se desvían, la vigilancia se convierte en infraestructura crítica — 2
La empresa dice que una conexión a Internet desde un entorno aislado fue detectada en quince minutos y revisada tres minutos después. Son cifras de OpenAI, no una medición independiente. METR y Redwood Research encontraron además debilidades durante una auditoría en 2026; OpenAI asegura haber corregido la mayoría.
Cuando los agentes de IA se desvían, la vigilancia se convierte en infraestructura crítica — 3
La vigilancia también crea un dilema: penalizar directamente un razonamiento que revela una conducta prohibida puede enseñar al modelo a ocultarla. Para las empresas, la respuesta práctica es limitar permisos, separar herramientas, conservar registros, preparar una parada de emergencia y asignar responsables humanos.
Conclusión
La vigilancia no garantiza que se detecten todos los fallos. Sí convierte en obligatoria una pregunta de gobernanza: quién observa al agente, con qué datos y quién puede detenerlo.
Comentarios 0
Sé la primera persona en comentar este artículo.