Die fortschrittlichsten Modelle werden häufig erst nach ihrem Start von der Öffentlichkeit erprobt. Ein vorheriger Zugang für Behörden kann helfen, gefährliche Fähigkeiten oder schwache Schutzmechanismen früher zu erkennen.

Gemeldete Änderung, noch nicht überall bestätigt

Reuters griff den Bericht des Telegraph auf, wonach die US-Regierung Unternehmen wie OpenAI und Anthropic nicht mehr auffordere, ihre neuen Modelle vor der Veröffentlichung nicht mit dem britischen Institut zu teilen.

Das Weiße Haus und die genannten Unternehmen hatten Reuters nicht geantwortet. Es handelt sich daher um eine von der Presse gemeldete Änderung, nicht um eine offiziell veröffentlichte Vereinbarung mit sämtlichen Einzelheiten.

Was das britische Institut erreichen will

Das nach dem Gipfel von Bletchley Park 2023 gegründete AI Security Institute untersucht Fähigkeiten und Auswirkungen fortschrittlicher Systeme und erprobt Maßnahmen zur Risikominderung.

Ein Vorabzugang verschafft Forschern Zeit, Rechenleistung und spezialisierte Testszenarien. Er bescheinigt niemals die Ungefährlichkeit eines Modells, kann aber Schwachstellen vor dessen Einbau in Tausende Produkte aufdecken.

Warum Unternehmen zögern

Ein unveröffentlichtes Modell ist ein strategischer Vermögenswert. Seine Weitergabe berührt Geschäftsgeheimnisse, Sicherheit, geistiges Eigentum und Haftung. Sämtliche Tests allein dem Hersteller zu überlassen schafft jedoch einen Interessenkonflikt.

Es muss genug geteilt werden, um Tests zu ermöglichen, ohne das Risiko von Datenlecks zu vervielfachen: sichere Umgebungen, Vertraulichkeit, Zugangskontrollen und ein klares Verfahren beim Auftreten schwerwiegender Probleme.

Sicherheit wird technische Diplomatie

In den Gesprächen geht es inzwischen um Modellzugang, den Austausch von Vorfällen, Bewertungsmethoden und miteinander vereinbare Regeln. Forscher wollen Ergebnisse vergleichen, während Staaten ihre Autonomie und Unternehmen ihre Geheimnisse schützen.

Die US-Arbeitsgruppe für KI hat Entwickler aufgefordert, Sicherheitsvorfälle zu melden. Bestätigt sich die Änderung, würde sie auf mehr gezielte Pflichten bei Vorfällen und besonders leistungsfähigen Systemen hindeuten.

Was Nutzer erwarten sollten

Ein Modell kann mit deaktivierter Funktion, eingeschränktem Zugang oder verschärfter Warnung starten, ohne dass die Öffentlichkeit weiß, welcher Test diese Entscheidung ausgelöst hat. Mehr Transparenz über Risikokategorien und getroffene Maßnahmen wäre hilfreich.

Ein bestandener Test ist kein dauerhaftes Gütesiegel: Anwendungen, Modelle und Methoden zur Umgehung von Schutzmaßnahmen entwickeln sich weiter. Der Erfolg wird sich an der Qualität der Tests, der Nachverfolgung von Vorfällen und konkreten Schutzmaßnahmen vor der Veröffentlichung messen lassen.