Die spanische Datenschutzaufsicht AEPD hat nach eigenen Angaben die erste Meldung über eine Datenschutzverletzung erhalten, bei der ein KI-Agent auf Basis eines bekannten Sprachmodells als Angriffswerkzeug diente. Die Behörde hat den Fall in einem Blogeintrag öffentlich gemacht und sieht darin ein Zeichen zum Handeln.
Laut der Meldung leitete der angreifende KI-Agent zunächst eine Suche nach Schwachstellen in allgemeinen Dateien ein und meldete sich erfolgreich an. Im System suchte er anschließend eigenständig nach weiteren Schwachstellen. Nachdem er fündig geworden war, konnte er personenbezogene Daten verändern und auf Rechnungen zugreifen. Bei bislang bekannten ähnlichen Fällen kamen laut AEPD nicht öffentlich verfügbare KI-Agenten zum Einsatz.
Geschwindigkeit als neue Qualität
Die Behörde betont, dass die verfügbaren Informationen ausschließlich aus der Meldung der betroffenen Organisation stammen, der Vorfall bedeute also nicht, dass ein KI-Anbieter selbst kompromittiert wurde. Aus datenschutzrechtlicher Sicht sei relevant, dass ein Dritter einen KI-Agenten als Werkzeug genutzt habe, um verschiedene Phasen eines Angriffs erfolgreich miteinander zu verknüpfen. Ein solcher Agent kann ein Ziel erhalten, Zwischenschritte planen, Werkzeuge einsetzen, Code ausführen, Quellen abfragen, Ergebnisse interpretieren und sein Vorgehen eigenständig an gefundenes Material anpassen. Neu sei dabei vor allem die Geschwindigkeit, mit der ein solcher Angriff abläuft.
Drei Konsequenzen für das Risikomanagement
Francisco Pérez Bes, stellvertretender Leiter der AEPD, nennt in dem Beitrag drei Konsequenzen für Unternehmen. Erstens müssten KI-gestützte Angriffe künftig ausdrücklich in Risikoanalysen berücksichtigt werden, ein allgemeiner Hinweis auf Malware, Phishing oder unbefugte Zugriffe reiche nicht mehr aus, da Automatisierung Wahrscheinlichkeit, Geschwindigkeit und Ausmaß eines Angriffs deutlich verändern kann. Zweitens dürften Verfahren, die auf die Abwehr manuell ausgeführter Angriffe ausgelegt sind, künftig zu langsam sein, IT-Sicherheit darf sich also nicht mehr allein auf manuelle Eingriffe verlassen. Drittens gewinnen digitale Zugangsdaten und API-Schlüssel an Bedeutung, denn wer sich diese verschafft, kann im System mit der Geschwindigkeit einer Maschine agieren, was die Entdeckung zusätzlich erschwert. Welches KI-Modell bei dem Angriff zum Einsatz kam und welche Organisation betroffen war, nennt die Behörde nicht. Stattdessen ruft sie Datenschutzbeauftragte und Verantwortliche für Cybersicherheit dazu auf, sich auf diese neue Bedrohungslage einzustellen, wobei die Grundprinzipien weiterhin gelten: Datenverarbeitungen kennen, Daten minimieren, Zugriffe beschränken, Schwachstellen beheben, Anbieter kontrollieren und sich auf schnelle Reaktionen vorbereiten.