Mit Unterstützung eines neu eingerichteten Instituts will die Bundesregierung Chancen und Risiken fortschrittlicher KI-Modelle besser einschätzen. Nachdem der Nationale Sicherheitsrat im Juni 2026 den Aufbau eines solchen Instituts beschlossen hatte, nahm das AISI Deutschland, kurz für AI Safety and Security Institute, am 31. August 2026 in Berlin seine Arbeit auf.
BSI und Bundesnetzagentur bilden den Kern
Der Auf- und Ausbau des Instituts erfolgt schrittweise. Zunächst sollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) in einer ersten Phase einen virtuellen Kern des KI-Sicherheitsinstituts bilden. Das bedeutet, dass sowohl das Digitalministerium als auch das Bundesinnenministerium für das AISI zuständig sind. Das Institut orientiert sich an internationalen Vorbildern, werde aber eigenständig und anhand der spezifischen deutschen Bedarfe ausgestaltet.
Es soll die Regierung in die Lage versetzen, sicherheitsrelevante Risiken frühzeitig zu identifizieren, evidenzbasierte Handlungsoptionen abzuleiten, Deutschlands digitale Souveränität im KI-Zeitalter zu stärken und internationale Entwicklungen strategisch einzuordnen. Ausdrücklich handelt es sich nicht um eine Regulierungsbehörde, sondern um ein analytisch-operatives Kompetenzzentrum an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung.
Sorge vor Kontrollverlust durch leistungsfähige Modelle
Neben der technischen Evaluierung leistungsfähiger KI-Modelle gehört die Analyse sicherheitsrelevanter Auswirkungen von KI zu den Aufgaben des Instituts. Es soll zudem die Bundesregierung in KI-Fragen strategisch beraten und nationale Expertise sowie Kooperationsfähigkeit im Bereich KI-Sicherheit aufbauen. Das Bundesdigitalministerium verwies zum Start des AISI auf jüngste Veröffentlichungen zu aktuellen KI-Sicherheitsvorfällen und auf sich zunehmend konkretisierende Risiken durch Kontrollverlust. Sehr leistungsfähige KI-Modelle könnten damit eine Bedrohung für die digitale Lebenswelt sowie die Resilienz von Wirtschaft, Gesellschaft und Demokratie darstellen, hieß es in der Mitteilung.
Besondere Bedeutung soll der Kooperation mit europäischen und transatlantischen Partnern zukommen. Bereits jetzt finde ein fachlicher Austausch zwischen den beteiligten Behörden sowie mit internationalen Partnerinstitutionen statt, unter anderem mit Frankreich, dem Vereinigten Königreich und dem EU AI Office, schreibt das Ministerium.
Offene Fragen zu Budget und Personal
Aus der Mitteilung geht nicht hervor, wie viele Stellen und welches Budget für das Institut vorgesehen sind, eine entsprechende Anfrage an die beiden zuständigen Ministerien blieb bislang unbeantwortet. Der IT-Branchenverband Bitkom forderte in einem Positionspapier, dass ein deutsches KI-Sicherheitsinstitut mit einem Anfangsbudget von mindestens 100 Millionen Euro für die ersten zwei Jahre sowie einer langfristig gesicherten Anschlussfinanzierung von mindestens 75 Millionen Euro jährlich ausgestattet werden sollte. Ob die tatsächliche Ausstattung diesen Forderungen nahekommt, ist bislang unklar.