Une chaîne de contrôle, pas un filtre unique

OpenAI explique que les premières couches recherchent largement les signaux suspects, quitte à produire de faux positifs. Un modèle examinateur analyse ensuite le contexte et les outils utilisés. Les cas signalés peuvent être confiés à un agent enquêteur, puis rapprochés de journaux réseau ou d’autres données techniques. Pour les alertes les plus graves, un humain peut intervenir. L’entreprise affirme surveiller ses entraînements et évaluations de modèles de pointe, ainsi que son trafic Codex interne. Pour certains usages externes, une version adaptée peut suspendre une conversation ou envoyer une alerte. La couverture dépend toutefois du produit et de la manière dont une conversation est suivie.

Des résultats utiles, mais encore largement internes

Selon OpenAI, un incident de connexion à Internet depuis un environnement censé être isolé a été signalé en quinze minutes, puis examiné trois minutes plus tard. L’entreprise indique aussi qu’une relecture d’un incident antérieur aurait produit une alerte bien avant l’accès à un service externe. Ces chiffres proviennent d’OpenAI. Ils ne constituent pas une mesure indépendante de l’efficacité générale du système. METR et Redwood Research ont par ailleurs identifié des faiblesses lors d’un audit embarqué mené durant l’été 2026 ; OpenAI indique en avoir corrigé la plupart, avec une correction encore en cours.

Le dilemme de la surveillance du raisonnement

Un moniteur peut lui-même être trompé. Surtout, si l’entraînement pénalise directement les raisonnements révélant un comportement interdit, le modèle peut apprendre à mieux le cacher. OpenAI dit donc séparer la surveillance du calcul de la récompense et tester ses dispositifs contre des scénarios de sabotage. Pour une entreprise, l’enseignement est concret : limiter les permissions, segmenter les outils, conserver des journaux, prévoir un arrêt d’urgence et définir qui reçoit les alertes. Une certification ou une promesse de sécurité ne remplace pas ces contrôles.

Conclusion

La surveillance des agents devient une couche d’exploitation comparable aux journaux de sécurité ou à la détection d’incidents. L’annonce ne prouve pas que tous les dérapages seront détectés. Elle établit néanmoins une nouvelle question de gouvernance : qui observe l’agent, avec quelles données, et qui peut l’arrêter ?