Wenn KI-Agenten abweichen, wird Überwachung zur kritischen Infrastruktur — 1

Das System verbindet Aktivierungssonden, einen modellbasierten Prüfer, Untersuchungsagenten, Telemetrie und menschliche Reaktion. OpenAI überwacht nach eigenen Angaben Frontier-Trainings, Evaluationen und internen Codex-Verkehr. Manche externen Anwendungen können Gespräche pausieren oder Warnungen senden; die Abdeckung variiert.

Wenn KI-Agenten abweichen, wird Überwachung zur kritischen Infrastruktur — 2

OpenAI berichtet, ein Internetzugriff aus einer isolierten Umgebung sei binnen 15 Minuten erkannt und drei Minuten später geprüft worden. Das sind Unternehmensangaben. METR und Redwood Research fanden bei einer eingebetteten Prüfung 2026 Schwachstellen; OpenAI habe die meisten behoben.

Wenn KI-Agenten abweichen, wird Überwachung zur kritischen Infrastruktur — 3

Überwachung schafft selbst ein Problem: Wird offengelegtes Fehlverhalten beim Training direkt bestraft, kann das Modell lernen, es zu verbergen. Unternehmen brauchen deshalb begrenzte Rechte, getrennte Werkzeuge, Protokolle, Notabschaltung und klare menschliche Zuständigkeit.

Fazit

Das System beweist nicht, dass jeder Fehler erkannt wird. Es macht aber eine Governance-Frage unvermeidlich: Wer beobachtet den Agenten, mit welchen Daten und wer darf ihn stoppen?