Googles Cybersicherheitsabteilung hat zum ersten Mal beobachtet, dass Angreifer das Finden und Ausnutzen von Sicherheitslücken mit KI-Sprachmodellen vollständig automatisiert haben. Das geht aus dem jüngsten Bericht der Google Threat Intelligence Group (GTIG) hervor. Dort ist von einem Framework namens exploit_agent die Rede.
So arbeitet das Framework
Laut GTIG vergleicht exploit_agent automatisch ungepatchte und gepatchte Versionen verbreiteter Internetsoftware, um Lücken aufzuspüren. Wird es fündig, schreibt das Programm selbstständig Angriffscode und führt ihn aus, ohne dass ein Mensch eingreift. Bei den identifizierten Angriffen wurden Daten von den angegriffenen Seiten abgezogen.
Mehr als nur der erste Einbruch
Die GTIG fand außerdem mehrere Skripte für Aktionen, die nach einem erfolgreichen Einbruch automatisch laufen sollten. Der Bericht nennt interne Erkundung, Brute-Force-Angriffe, das Installieren von Webshells und das Entfernen der Webshells anderer Angreifer. Die gesammelten Telemetriedaten der Opfer deuten darauf hin, dass es dem Verantwortlichen vor allem um französische Internetseiten aus der Medien- und Unterhaltungsbranche sowie dem Bildungssektor ging.
Kein Einzelfall
Andere Cyberkriminelle versuchen laut GTIG ebenfalls, Angriffe mit KI zu automatisieren, etwa mit frei verfügbaren Pentesting-Werkzeugen. Staatliche Akteure aus Nordkorea missbrauchen generative KI, unter anderem um ihre Operationen zu skalieren. Google geht davon aus, dass die Automatisierung weiter zunimmt. Die Gründe: Die Einstiegshürde ist niedrig, neue Exploits lassen sich leicht einbinden, und das Potenzial zum Skalieren ist enorm. Die GTIG hält es deshalb für sehr wahrscheinlich, dass Angreifer solche Frameworks weiter in Kampagnen gegen Organisationen weltweit einsetzen.
Für dich heißt das vor allem: Wenn Angreifer Patches automatisch auswerten, wird das Zeitfenster zwischen Update und Angriff kleiner. Spiel Sicherheitsupdates deshalb zügig ein.