KI hilft Sicherheitsteams, Auffälligkeiten zu erkennen und zahlreiche Signale auszuwerten. Zugleich eröffnet sie Angreifern neue Möglichkeiten, Betrug zu automatisieren und täuschende Inhalte zu erzeugen.

Schneller erkennen

Werkzeuge können verstreute Ereignisse zusammenführen, Warnmeldungen einordnen und ungewöhnliches Verhalten erkennen. So helfen sie Analysten, sich auf die dringendsten Vorfälle zu konzentrieren.

Eine automatische Warnung ist jedoch noch kein Beweis. Ohne Kontext kann ein System zahlreiche Fehlalarme auslösen oder einen neuartigen Angriff übersehen.

Überzeugendere Angriffe

Die Erzeugung von Texten, Stimmen und Bildern erleichtert personalisierte Betrugsnachrichten. Angreifer können ihre Ansprache schneller an ein Unternehmen oder eine Person anpassen.

Bewährte Schutzmaßnahmen bleiben unverzichtbar: starke Authentifizierung, Aktualisierungen, Sicherungskopien, Zugriffskontrollen und die Überprüfung über einen zweiten Kanal.

Auch die Modelle müssen geschützt werden

Ein KI-System kann durch schädliche Daten, versteckte Anweisungen oder übermäßigen Zugriff auf Unternehmenswerkzeuge manipuliert werden. Seine Sicherheit muss bereits bei der Entwicklung berücksichtigt werden.

Begrenzte Berechtigungen, protokollierte Aktionen und Tests von Missbrauchsszenarien senken das Risiko, dass ein Assistent zu einem zusätzlichen Einfallstor wird.