OpenAI-Chef Sam Altman meint, die Welt solle zugunsten der Vorteile von KI und der Handlungsfähigkeit der Menschen "einige schlechte Dinge" hinnehmen. Das sagte er in einem Interview mit dem Politico-Newsletter Decoded. Eine Garantie, dass es keine großen Hacks, keinen Missbrauch und keinen Betrug gibt, wolle er nicht um jeden Preis. Er erwarte, dass Menschen deutlich mehr Gutes als Schlechtes bewirken.
Laut Politico sieht Altman dabei einen grundlegenden Unterschied in der Weltsicht von OpenAI und Anthropic, wenn es um KI-Regulierung geht. KI solle außerdem für die Öffentlichkeit breit zugänglich bleiben.
OpenAI nähert sich Anthropic an
Bisher galt Anthropic als stärkster Befürworter von KI-Regeln in der Branche, OpenAI wollte zurückhaltender regulieren. Zuletzt rückten die Positionen aber zusammen. Im Juli teilte OpenAI mit, dass seine Technologie bei internen Modelltests autonom in die Systeme von Hugging Face und weiteren Organisationen eingedrungen war. Im September forderte Anthropic-Chef Dario Amodei deshalb, die Entwicklung der fortschrittlichsten KI-Modelle zu bremsen, und Altman erklärte, er stimme ihm zu. OpenAI unterstützt zudem neue Gesetze einzelner US-Bundesstaaten mit strengeren Sicherheitsvorgaben, als der ChatGPT-Entwickler zuvor befürwortet hatte. Auch hinter den überparteilichen Frontier Act im US-Repräsentantenhaus stellten sich OpenAI-Lobbyisten. Das Gesetz würde führende KI-Firmen verpflichten, externe Sicherheitsprüfer einzubinden.
Streit um den Vorwurf der Regulatory Capture
Trotz der Annäherung grenzt Altman OpenAI von Anthropic ab. Er verweist dabei auf einen Vorwurf aus dem Umfeld von US-Präsident Donald Trump: Regulatory Capture, also den Versuch eines Unternehmens, Regulierung zu seinen Gunsten zu beeinflussen. KI-Berater David Sacks warf Anthropic eine Strategie auf Basis von Panikmache vor und machte es für einen Regulierungseifer in den Bundesstaaten verantwortlich, der Startups schade.
Anthropic weist das zurück. Laut einem Sprecher gelten die Vorschläge nur für die leistungsfähigsten KI-Modelle. Auf Kritik des Investmentmanagers Gavin Baker antwortete Amodei im August, Regeln sollten die führenden KI-Firmen stärker belasten als kleinere Konkurrenten.