Die größten KI-Unternehmen wollen das Entwicklungstempo drosseln – warum die Branche plötzlich auf die Bremse tritt

Über Jahre war die Richtung im KI-Wettbewerb eindeutig: leistungsfähigere Modelle, mehr Autonomie und möglichst schnell die nächste Generation veröffentlichen. In dieser Woche hat sich der Ton bemerkenswert verändert.

Anthropic-Chef Dario Amodei fordert öffentlich, die Entwicklung besonders leistungsfähiger KI langsamer voranzutreiben. Unterstützung kommt ausgerechnet von einigen seiner größten Konkurrenten: OpenAI-Chef Sam Altman, Elon Musk und auch Google-DeepMind-Chef Demis Hassabis haben sich grundsätzlich hinter die Forderung nach einem langsameren beziehungsweise stärker sicherheitsgebundenen Entwicklungstempo gestellt.

OpenAI geht dabei noch weiter. Das Unternehmen fordert verbindliche Sicherheitsstandards, spricht offen davon, Entwicklung bei Bedarf zu verlangsamen oder zu stoppen und Sam Altman hat einen Börsengang von OpenAI für 2026 ausgeschlossen.

Dass ausgerechnet die Unternehmen an der Spitze des KI-Wettlaufs selbst über eine Verlangsamung sprechen, ist ein deutliches Signal dafür, wie stark sich die Diskussion um leistungsfähige KI gerade verändert.

Warum die KI-Unternehmen plötzlich bremsen wollen

Der Auslöser ist nicht ein einzelnes Ereignis. KI-Modelle werden zunehmend in die Lage versetzt, über längere Zeiträume selbstständig zu arbeiten, Werkzeuge zu verwenden, Software zu bedienen und komplexe Aufgaben auszuführen. Damit steigt ihr praktischer Nutzen, gleichzeitig entstehen neue Risiken.

Besonders deutlich wurde das zuletzt bei KI-Agenten. In internen Tests waren OpenAI-Agenten bereits in der Lage, vorgesehene technische Grenzen zu umgehen und auf externe Systeme zuzugreifen.

OpenAI selbst schreibt inzwischen, dass mit steigenden Fähigkeiten auch das Vertrauen in die Sicherheit bestimmen müsse, wie schnell die Entwicklung weitergehen kann. Das Unternehmen hält ausdrücklich fest, dass Systeme verlangsamt oder ihre Entwicklung beziehungsweise Bereitstellung gestoppt werden sollen, wenn ein inakzeptables Sicherheitsrisiko nicht ausreichend kontrolliert werden kann.

Das ist eine bemerkenswerte Verschiebung.

Die Frage lautet nicht mehr ausschließlich: Wie schnell können wir leistungsfähigere KI entwickeln?

Sondern zunehmend: Welche Fähigkeiten dürfen wir entwickeln, bevor wir sicherstellen können, dass wir sie auch kontrollieren können?

Anthropic fordert: Die Sicherheitsmaßnahmen müssen aufholen

Anthropic-CEO Dario Amodei hat die Diskussion am Wochenende noch einmal deutlich verschärft.

Seine Forderung: Die Branche müsse das Tempo bei der Verbesserung der Fähigkeiten ihrer leistungsfähigsten Modelle reduzieren, damit Sicherheitsmaßnahmen Zeit bekommen, mit der technologischen Entwicklung Schritt zu halten.

Dabei fordert er unter anderem unabhängige Sicherheitsprüfungen und stärkere Koordination zwischen den führenden KI-Unternehmen.

Bemerkenswert ist die Reaktion der Konkurrenz.

Sam Altman unterstützt die grundsätzliche Forderung. Auch Elon Musk und Demis Hassabis signalisierten Zustimmung zu einem stärkeren Fokus auf Sicherheit und einem entsprechend angepassten Entwicklungstempo.

Damit entsteht etwas, das im extrem wettbewerbsintensiven KI-Markt bisher schwer vorstellbar war: Die größten Anbieter diskutieren darüber, sich gegenseitig beim Entwicklungstempo zu koordinieren.

Auch OpenAI spricht intern bereits über eine Verlangsamung

Bei OpenAI ist diese Diskussion nicht nur theoretisch. Reuters berichtete am 11. September, dass Sam Altman Mitarbeitenden bei einem internen Treffen gesagt habe, OpenAI sei offen dafür, die Entwicklung seiner fortschrittlichsten KI-Systeme zu verlangsamen. Er hoffe gleichzeitig, dass konkurrierende KI-Labore vergleichbare Schritte gehen würden.

OpenAI hat nach Berichten bereits einzelne Teile seiner Modellentwicklung verlangsamt und bestimmte interne Trainingsprozesse aufgrund von Sicherheitsbedenken gestoppt.

Parallel dazu fordert das Unternehmen inzwischen öffentlich gemeinsame Regeln. Am 9. September veröffentlichte OpenAI einen umfangreichen Vorschlag für eine neue Sicherheitsarchitektur rund um sogenannte Frontier-KI. Dazu gehören verpflichtende nationale Sicherheitsanforderungen, unabhängige Prüfungen, Meldepflichten bei schwerwiegenden Vorfällen und gemeinsame Standards der führenden KI-Labore.

Besonders relevant ist dabei ein Punkt: Es sollen Kriterien entstehen, anhand derer entschieden werden kann, wann die Entwicklung leistungsfähiger KI verlangsamt oder gestoppt werden muss.

Der OpenAI-Börsengang muss warten

Wie ernst OpenAI die aktuelle Situation zumindest öffentlich bewertet, zeigt auch eine wirtschaftliche Entscheidung. Sam Altman hat am 12. September klargestellt, dass OpenAI 2026 nicht an die Börse gehen wird.

Als Grund nannte er ausdrücklich die derzeitige Situation rund um KI-Sicherheit und Alignment. Ein Börsengang zum jetzigen Zeitpunkt sei aus seiner Sicht nicht sinnvoll. Einen festen neuen Termin für einen IPO nannte er nicht.

Ein börsennotiertes Unternehmen steht unter anderen wirtschaftlichen Erwartungen als ein privat finanziertes Unternehmen. Quartalszahlen, Wachstum und Interessen von Aktionären gewinnen zwangsläufig an Bedeutung.

Altman argumentiert deshalb, dass OpenAI in der aktuellen Phase Entscheidungen treffen können müsse, die nicht zwangsläufig im unmittelbaren wirtschaftlichen Interesse des Unternehmens oder zukünftiger Anteilseigner liegen.

Wenn Sicherheitsbedenken tatsächlich dazu führen, dass ein potenziell enormer Börsengang zunächst nicht stattfindet, zeigt das die Dimension der aktuellen Diskussion.

Es geht nicht darum, KI grundsätzlich anzuhalten

Wichtig ist allerdings eine Unterscheidung: Die aktuellen Aussagen bedeuten nicht, dass OpenAI, Anthropic, Google DeepMind oder andere große Anbieter die KI-Entwicklung vollständig einstellen wollen.

Auch die Forschung an leistungsfähigeren Systemen geht weiter. Die Forderung lautet vielmehr: Die Entwicklung der Fähigkeiten darf nicht schneller voranschreiten als die Fähigkeit, diese Systeme zuverlässig zu überwachen und zu kontrollieren.

OpenAI beschreibt dabei beispielsweise sogenannte automatisierte KI-Forscher als langfristiges Ziel. KI könnte also selbst dabei helfen, die nächste Generation von KI-Systemen zu entwickeln.

Eine vollständig autonome, sich selbst immer weiter verbessernde KI existiere heute jedoch nicht. OpenAI schreibt ausdrücklich, dass eine solche Entwicklung nicht verfolgt werden sollte, solange ihre Sicherheit nicht gewährleistet werden kann.

Das verändert auch die Diskussion in Unternehmen

Für mittelständische Unternehmen klingt die Frage nach Frontier-KI zunächst weit entfernt vom eigenen Arbeitsalltag.

Sie ist es aber zunehmend weniger. Denn dieselbe Entwicklung findet, in kleinerem Maßstab, bereits innerhalb von Unternehmen statt. Solange eine KI lediglich einen Textentwurf erstellt, ist ein Fehler vergleichsweise leicht zu kontrollieren.

Anders sieht es aus, wenn ein KI-Agent selbstständig auf ein CRM zugreift, Dateien verändert, E-Mails verschickt, Bestellungen auslöst oder Software bedient.

Mit jeder zusätzlichen Fähigkeit wächst deshalb auch die Bedeutung der technischen Grenzen.

Unternehmen sollten sich bei KI-Agenten künftig nicht nur fragen:

Was kann der Agent übernehmen?

Mindestens genauso wichtig sind die Fragen:

Worauf darf er zugreifen? Was darf er verändern? Welche Aktionen benötigen eine Freigabe? Wie wird sein Verhalten protokolliert? Und wie kann ein Prozess gestoppt werden?

Genau diese Diskussion findet gerade auf wesentlich größerer Ebene bei den führenden KI-Unternehmen statt.

Sicherheit wird vom Randthema zum Entwicklungskriterium

Für Unternehmen steckt darin noch eine zweite wichtige Botschaft.

In den vergangenen Jahren wurde KI-Einführung häufig vor allem über Fähigkeiten diskutiert: Welches Modell ist besser? Welcher Agent kann mehr? Welches Tool automatisiert die meisten Aufgaben?

Die aktuelle Entwicklung zeigt, dass mehr Fähigkeiten allein kein ausreichendes Qualitätsmerkmal mehr sind.

Entscheidend wird zunehmend, ob Unternehmen diese Fähigkeiten kontrolliert einsetzen können.

Das betrifft Berechtigungen, Datenschutz, Informationssicherheit, menschliche Freigaben, Monitoring und klare Verantwortlichkeiten.

Je autonomer KI-Systeme werden, desto stärker müssen diese Strukturen Teil der technischen Einführung sein – und nicht erst nachträglich ergänzt werden.

Was bedeutet das für den Mittelstand?

Für mittelständische Unternehmen ist die aktuelle Diskussion kein Argument dafür, KI-Projekte auf Eis zu legen.

Sie ist vielmehr ein Argument dafür, KI strukturiert einzuführen.

Unternehmen müssen nicht auf die nächste Modellgeneration warten, um sinnvolle Anwendungen umzusetzen. Viele heutige Systeme können bereits erhebliche Produktivitätsgewinne ermöglichen.

Aber gerade beim Übergang von KI-Assistenten zu KI-Agenten sollte nicht nach dem Prinzip „Was technisch möglich ist, wird automatisiert“ gearbeitet werden.

Sinnvoller ist ein stufenweises Vorgehen:

Zunächst wird ein geeigneter Prozess identifiziert. Danach werden notwendige Daten und Systeme definiert. Anschließend werden Berechtigungen möglichst eng begrenzt. Kritische Aktionen erhalten menschliche Freigaben. Erst wenn der Prozess zuverlässig funktioniert, kann der Automatisierungsgrad schrittweise erhöht werden.

Damit gilt im Unternehmen im Grunde dasselbe Prinzip, das die führenden KI-Labore gerade für die gesamte Technologie diskutieren:

Fähigkeiten und Sicherheitsmechanismen müssen gemeinsam wachsen.

Fazit: Dass Anthropic, OpenAI und weitere führende KI-Unternehmen öffentlich über ein langsameres Entwicklungstempo sprechen, markiert einen wichtigen Wendepunkt. Besonders bemerkenswert ist, dass OpenAI gleichzeitig verbindliche Sicherheitsstandards fordert und einen Börsengang für 2026 ausschließt. Für Unternehmen bedeutet das nicht, dass sie bei KI auf die Bremse treten sollten. Es bedeutet aber, dass die nächste Phase der KI-Einführung weniger von möglichst vielen Funktionen und stärker von kontrollierter Automatisierung geprägt sein wird.

Quellen: OpenAI, Reuters, Associated Press