KI macht Phishing gefährlicher, und zwar messbar. Eine großangelegte Studie zeigt, dass KI-gestützte Personalisierung die Erfolgsquote von Phishing-Mails nahezu verdreifacht. Beteiligt waren Forschende des Berlin Institute for the Foundations of Learning and Data (Bifold), der TU Berlin, des französischen Instituts Inria und der Ruhr-Universität Bochum.
Wie das Experiment ablief
Am Feldexperiment nahmen 7.741 Beschäftigte der TU Braunschweig teil. Um personalisierte Angriffe im großen Stil zu simulieren, nutzte das Team ausschließlich die E-Mail-Adressen der Zielpersonen als Suchanfrage in Suchmaschinen und sammelte so öffentlich verfügbare Informationen wie beruflichen Hintergrund, Aktivitäten, Interessen und Zugehörigkeiten. Aus diesen Daten erzeugten lokal gehostete KI-Modelle detaillierte Profile und darauf zugeschnittene E-Mails.
Das Ergebnis fällt deutlich aus. Generische E-Mails erreichten eine Klickrate von 3,9 Prozent, die automatisiert personalisierten Nachrichten dagegen 10,0 Prozent. Die KI-gestützte Personalisierung steigerte die Erfolgsquote also fast auf das Dreifache. Dieser Effekt zeigte sich unabhängig davon, ob die generischen Nachrichten von Menschen oder ebenfalls von einer KI verfasst waren.
Günstig, schnell und schwer zu filtern
Manuell geschriebene Spear-Phishing-Mails erzielten mit 24,2 Prozent zwar die höchste Klickrate, kosteten aber rund sieben Minuten Aufwand pro Nachricht. Der KI-Workflow brauchte dagegen nur etwa 45 Sekunden pro E-Mail und verursachte Kosten von rund 0,03 US-Dollar pro Adresse. Angreifer können personalisierte Kampagnen damit sehr günstig skalieren.
Unerwartet war der Einfluss der Datenmenge. Personen mit besonders umfangreichen Online-Profilen klickten seltener als Personen mit geringen bis mittleren Datenmengen. Der Grund: Bei sehr vielen Eingabedaten neigten die Sprachmodelle stärker zu Abstraktionen und übernahmen konkrete Details seltener direkt in die Nachrichten.
Was das für den Schutz bedeutet
Die Autoren betonen, dass es mehrschichtige Schutzmaßnahmen braucht. Technische Filter erkennen menschlich wirkende Nachrichten nur schwer, im Experiment fing das Sicherheitssystem der Universität lediglich eine von 3.949 Mails ab. Empfohlen werden unter anderem, die Menge verknüpfbarer persönlicher Daten im Netz zu reduzieren, Security-Schulungen um das Thema KI-gestützte Personalisierung zu erweitern und technische Schutzkonzepte wie die Multi-Faktor-Authentifizierung zu stärken.