Originaltitel: „Jensen Huang geht nach links, Amodei nach rechts“; Originalautor: Su Yang, Tencent Technology

Ob Spitzen-KI weiter beschleunigt oder gebremst werden soll, ist heute das umstrittenste Thema in Silicon Valley.

Um diese Kontroverse herum haben Tech-Giganten Stellung bezogen: Amodei, Altman, Musk und Hassabis bilden den „Pause-Lager“. Jensen Huang vertritt entschieden die Beschleunigung – und kritisiert „KI-Apokalyptizismus“ als wissenschaftlich unbegründet; Yann LeCun spottete wiederholt über Amodei: „(Amodei) hielt GPT-2 bereits damals bei OpenAI für zu gefährlich, um es open-source zu veröffentlichen. Ich habe ihn damals verspottet – und jetzt kann es jeder tun.“

Zuckerberg und Nadella hingegen nehmen eine relativ neutrale Haltung ein.

Die unterschiedlichen Positionen der Giganten zeigen: In Silicon Valley gibt es keinen Konsens zum Aussetzen von Spitzenmodellen. Ursache ist die jeweils andere ökologische Nische im KI-Wertschöpfungsnetz. Modellanbieter können aus verschiedenen Gründen eine Pause fordern – doch Unternehmen wie Oracle, AWS (mit Hunderten Milliarden Dollar an Rechenaufträgen) oder Nvidia (an der Spitze der Wertschöpfungskette) zum Stillstand zu bewegen, ist aussichtslos.

In Washington fand der „Pause“-Appell nicht nur keine Unterstützung, sondern löste sogar Zweifel aus.

„Für mich wirkt das ein wenig wie ein Trojanisches Pferd“, sagte JD Vance in einem Interview. Diese Aussage spiegelt Washingtons wahre Sicht wider: Wenn die Bauherren des Trojanischen Pferdes immer wieder fordern, das Tor enger zu machen, sollte man prüfen, welchen Unternehmen dieses Tor tatsächlich dient.

01 Pause, Warnung und ein Rücktrittsschreiben

Auslöser dieser Debatte war der Rücktritt des Anthropic-Forschers Jacob Cockson.

Er hatte zuvor drei Jahre lang bei OpenAI und Anthropic an Vor-Trainings geforscht und an der Entwicklung der fortschrittlichsten Modelle mitgewirkt. In einem langen Beitrag auf X verzichtete er fast gänzlich auf Höflichkeitsfloskeln: „Keines der beiden Unternehmen handelt verantwortungsbewusst. Sie rasen geradewegs auf selbstverbessernde Superintelligenz zu – und setzen damit unser Leben aufs Spiel.“

Er betonte unumwunden, dass Forscher innerhalb der Labore ernsthaft glauben, KI könnte innerhalb eines Jahrzehnts alle Menschen töten – und dies sei keineswegs PR. Kollegen bezeichnen die aktuelle Phase bereits als „kritischen Moment“ oder „Endspiel“. Cockson verzichtete sogar auf Aktienoptionen, die kurz vor der Ausübung standen: Er war erst vier Monate bei Anthropic – zur Ausübung sind laut Unternehmensregel sechs Monate erforderlich.

Ehemaliger Anthropic-Forscher Jacob Coxon

Kurz darauf antwortete Evan Hubinger, Anthropics Leiter für Alignment-Forschung, öffentlich: „Jacob hat recht – wir glauben wirklich, dass KI alle Menschen töten könnte. Persönlich schätze ich die Wahrscheinlichkeit innerhalb von zehn Jahren auf über 10 %. Anthropic bemüht sich zwar, doch wir haben noch keinen klaren Plan für die Ausrichtung superintelligenter Systeme – und sind weit davon entfernt, auf Kurs zu sein.“

Diese beiden Statements brachten Bedenken, die bislang vor allem in Laboren reiften, direkt ins öffentliche Bewusstsein. Vor diesem Hintergrund veröffentlichte Anthropic-Gründer und CEO Amodei umgehend einen ausführlichen Essay, in dem er systematisch die Idee einer „Verlangsamung der Spitzenforschung“ vorschlägt. Er spricht nicht mehr nur von „mehr Investitionen in Sicherheit“, sondern fordert explizit, das Tempo der Fähigkeitsfortschritte aktiv zu drosseln, um Sicherheitsmechanismen Zeit zum Aufholen zu geben.

Altman, Musk und Hassabis unterstützten dies schnell öffentlich – so entstand die „Pause-Fraktion“.

Noch bevor Jacob Coxon und Amodei ihre „Verlangsamungs“-Argumente vorbrachten, hatten „KI-Urväter“ wie Yoshua Bengio und Geoffrey Hinton kontinuierlich Initiativen gestartet, um auf Risiken hinzuweisen.

Zu Coxons Rücktritt sagte Bengio, Wissenschaftler an führenden KI-Laboren könnten oft die Fähigkeiten neuester Modelle früher erkennen als die Öffentlichkeit – daher verdienten ihre Risikobewertungen ernsthafte Aufmerksamkeit.

Gleichzeitig nannte Bengio konkrete Beispiele: Aktuelle KI-Systeme verfügten bereits über Hacking- und Überzeugungsfähigkeiten; bei missbräuchlicher Nutzung für menschliche Schäden könnten schwerwiegende Folgen entstehen. Er befürchtet zudem, dass solche Risiken mit wachsender Langzeitplanungskapazität der KI weiter zunehmen könnten.

Auf die BBC-Frage nach der Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts „alle Menschen tötet“, und ob diese über 10 % liege, bezeichnete Geoffrey Hinton diese Zahl als „nicht unplausibel“, betonte aber, niemand könne zuverlässig abschätzen, da die Menschheit noch nie zuvor einer Spezies gegenübergestanden habe, die bald intelligenter sein könnte als wir.

Hinton glaubt, dass KI künftig zur Entwicklung gefährlicher biologischer Viren, Computerviren und zum Start großangelegter Cyberangriffe genutzt werden könnte. Daher müsse die Menschheit wirksame Kontrollmethoden finden, bevor die Risiken außer Kontrolle geraten.

Im Gegensatz zu Befürwortern der neuen Silicon-Valley-„Pause-Theorie“ geht es den „KI-Urvätern“ weniger um ein direktes Bremsen, sondern vielmehr darum, auf Risiken hinzuweisen und Kontrollmechanismen zu erforschen. Zudem sind akademische Stellungnahmen in ihrer Motivation reiner, während Initiativen führender Labore – selbst wenn sie offiziell „für die Menschheit“ genannt werden – kaum zu 100 % von kommerziellen Erwägungen zu trennen sind.

Genau deshalb bezeichnete JD Vance die „Pause-Theorie“ als Trojanisches Pferd.

02 Divergenz und Parteinahme

Die Lager der „Beschleuniger“, „Verzögerer“ und „Gemäßigten“. Quelle: The New York Times

Am 15. September äußerten sich mehrere Technologie-Unternehmer nacheinander auf der Salesforce-Dreamforce-Konferenz – die Debatte wandelte sich in einen direkteren Meinungsstreit.

An diesem Tag sprachen Amodei, Jensen Huang und Altman über KI-Sicherheit, gaben jedoch unterschiedliche Antworten zu Entwicklungs­tempo, Sicherheitsverantwortung und unternehmerischem Handeln.

Als Amodei gemeinsam mit Salesforce-CEO Marc Benioff auftrat, betonte er erneut, KI-Unternehmen sollten durch eigenes Handeln höhere Sicherheitsstandards setzen. Seiner Ansicht nach könnten proaktive, strengere Sicherheitsmaßnahmen den gesamten Sektor voranbringen.

Mit anderen Worten: Amodeis Position verlagerte sich – weg von einem Appell an die gesamte Branche, langsamer vorzugehen, hin zu eigenständigen Sicherheitsvorkehrungen durch Unternehmen.

Jensen Huang erklärte: „Es bedarf keiner neuen Gesetze und keiner neuen Regulierungen.“ Für ihn stehen Geschwindigkeit und Sicherheit nicht im Widerspruch; Unternehmen können Modelle so schnell wie möglich weiterentwickeln – und bei Gefahr oder mangelnder Produktsicherheit pausieren und Probleme lösen.

Benioffs Haltung war offener und betonte Autonomie: Wenn ein Unternehmen langsamer machen wolle, solle es das tun; wenn es beschleunigen wolle, solle es das ebenfalls tun – und stets Verantwortung für eigene Entscheidungen übernehmen.

OpenAI-Gründer und CEO Altman sagte auf der Dreamforce-Veranstaltung, er sei sehr zuversichtlich, dass OpenAI – ja die gesamte KI-Branche – sicher entwickeln könne, ohne der Öffentlichkeit größeren Schaden zuzufügen. Enttäuscht zeigte er sich darüber, dass Außenstehende seine Ansicht fälschlich als Unterstützung einer branchenweiten Verlangsamung interpretierten.

Mit anderen Worten: Auch Altman verlagerte seine Position – er betonte nun, nicht eine allgemeine Verlangsamung fordern zu wollen, sondern Sicherheits- und Überwachungsarbeit müsse der Leistungssteigerung vorausgehen.

Zuckerberg hingegen lehnt es ab, die Sicherheitsmaßnahmen eines Unternehmens davon abhängig zu machen, dass andere KI-Firmen synchron langsamer werden. Er sieht unabhängige Prüfinstitutionen und externe Berater zur Modellsicherheitsprüfung als Branchenstandard an. Er enthüllte zudem, dass Meta das Muse-KI-Tool bereits eigenständig verlangsamt hatte – ohne auf einen branchenweiten Konsens zu warten.

Microsoft-CEO Satya Nadella vertritt eine Haltung, die sich weitgehend mit Altman deckt: Er fördert sowohl Sicherheitsvorkehrungen als auch vollständigen Wettbewerb.

„Das Erste, was wir tun müssen, ist, der Menschheit zu dienen und sicherzustellen, dass Technologie unter menschlicher Kontrolle bleibt. Gleichzeitig ist die breite Verbreitung der KI-Technologie entscheidend – es muss Wahlmöglichkeiten und Wettbewerb geben. Sicherheit muss ernst genommen werden, doch sie lässt sich durch Engineering und Transparenz – nicht durch Mystifizierung – bewältigen“, sagte Nadella am 15. September auf dem All-In-Gipfel 2026.

Neben diesen Unternehmern haben sich auch Stimmen aus Washington eingeschaltet.

Nachdem Trump direkt Jensen Huang angerufen und öffentlich seine Unterstützung für die weitere Entwicklung der KI-Branche bekundet hatte, erklärte David Sacks, Co-Vorsitzender des Präsidentenrates für Wissenschafts- und Technologieberatung, anschließend, dass Technologieunternehmen die Spitzen-KI weiterentwickeln dürften, während er die Motive der von einigen Unternehmen vorgetragenen Argumente für eine „Verlangsamung“ in Frage stellte.

03 Wer darf die Regeln aufstellen?

Als die Diskussion sich ausweitete, griff der Streit zunehmend über das reine KI-Risiko hinaus auf die Frage über, ob Sicherheitsstandards für Spitzen-KI von den Unternehmen selbst festgelegt werden sollen oder staatliche und unabhängige Institutionen eingreifen müssen.

Bloomberg berichtete unter Berufung auf mit der Angelegenheit vertraute Personen, dass Anthropic, Google und OpenAI zuvor über die Gründung einer Branche für KI-Standards diskutiert hatten.

Im Juli veröffentlichte Hassabis einen Artikel, in dem er die Einrichtung einer von den USA geführten KI-Standardsbehörde vorschlug, die ähnlich wie die Financial Industry Regulatory Authority (FINRA) agieren würde. Diese Behörde könnte fortschrittliche KI-Modelle vor ihrer offiziellen Bereitstellung testen, um zu prüfen, ob sie die entsprechenden Sicherheitsstandards erfüllen.

Nach Hassabis’ Vorstellung sollte diese Behörde nicht ausschließlich staatlich geführt sein, sondern ein Modell der öffentlich-privaten Partnerschaft verfolgen: Der Staat übernimmt eine Aufsichtsfunktion, die KI-Branche stellt die Finanzierung bereit, und unabhängige führende technische Experten sowie Vertreter der Open-Source-Community sind beteiligt.

Hassabis wollte eine unabhängige Sicherheitsprüfung vor der Markteinführung der Modelle einführen – ein Ansatz, der eng mit der im frühen Juni von der US-Regierung bekanntgegebenen regulatorischen Logik übereinstimmt: Unternehmen können Modelle freiwillig vor der Veröffentlichung zur Bewertung durch die Regierung einreichen; dafür steht ihnen bis zu 30 Tage vor Veröffentlichung ein Zugangszeitfenster zur Verfügung, wobei ausdrücklich keine zwingende Genehmigung und keine Freigabe-Lizenz vorgesehen ist.

Dramatisch daran ist, dass Fable 5 und Mythos 5 bei ihrer anschließenden Markteinführung diesen Prozess nicht einhielten, stattdessen aber äußerst starke Cyber-Angriffs- und Verteidigungsfähigkeiten aufwiesen und schließlich vom US-BIS kurzzeitig mittels Exportkontrollen offline genommen wurden.

Trotzdem fordert die politische Haltung lediglich zusätzliche Sicherheitsvorkehrungen, ohne jegliche Aussage oder Empfehlung zur Verlangsamung abzugeben.

Eine ähnliche Auffassung wie Hassabis vertritt OpenAIs Chefwissenschaftler Jakub Pachocki. Anfang September betonte er ebenfalls, dass der Austausch von Sicherheitsstandards und die internationale Koordination im Hinblick auf die weitere KI-Entwicklung aktuell Priorität haben sollten.

04 Niemand bremst wirklich ab

Bisher hat diese Debatte den Entwicklungs-Tempo bei Spitzen-KI-Unternehmen nicht wirklich verändert.

Unternehmen wie Anthropic, OpenAI, Google und xAI setzen ihre Modellforschung und -entwicklung fort; der Wettbewerb um Rechenleistung, Rechenzentren und KI-Infrastruktur ist durch diese Debatte nicht zum Erliegen gekommen. Auf Ebene des Kapitalmarkts zeichnen sich jedoch andere Veränderungen ab: Anthropic bereitet weiterhin seinen Börsengang noch in diesem Jahr vor, während OpenAI seinen Börsengangsplan auf 2027 verschoben hat.

Amodei möchte die gesamte Branche zum Stillstand bewegen und gemeinsam mit Anthropic Lösungen finden, um Grenzüberschreitungen bei Modellfähigkeiten durch Sicherheitsvorkehrungen einzudämmen – was bis zu einem gewissen Grad als „Großzügigkeit auf Kosten anderer“ verstanden werden kann.

Daher wird Amodei auch als „vortäuschender makelloser Engel“ bezeichnet.

Zum Risikomanagement entspricht die von Jensen Huang vertretene Sichtweise tatsächlich eher der aktuellen Lage: Falls Unternehmen Bedenken haben oder Probleme entdecken, können sie Lösungen eigenständig erforschen und die dabei entwickelten wirksamen Lösungen mit der Branche teilen.

Einfach zu verlangen, dass ein Team mit 100 und eines mit 1.000 Mitarbeitern gleichzeitig anhalten, bietet keinerlei Grundlage für einen Konsens. Selbst Amodei ist sich bewusst, dass er bei alleinigem Stillstand sehr wahrscheinlich von Konkurrenten wie OpenAI überholt würde.

Wichtiger noch sind die Unterschiede auf Ebene der Unternehmensführung: Sowohl Anthropic als auch OpenAI sind Public Benefit Companies (PBCs), sodass sie „kurzfristige finanzielle Interessen zugunsten der Zukunft der Menschheit zurückstellen“ können und Investoren erklären können: „Wir haben uns hierzu bereits vor langer Zeit geeinigt.“ Bei börsennotierten Unternehmen wie Google, Microsoft und Meta hingegen unterliegt das Management einer gesetzlichen Treuepflicht gegenüber den Aktionären am Sekundärmarkt.

Bei diesen beiden unterschiedlichen Interessenlagen ist die Wahrscheinlichkeit, hierzu einen Konsens zu erreichen, ebenfalls gering.

Ein weiteres Detail, das leicht übersehen wird: Vor der „Pause-Theorie“ veröffentlichten sowohl Anthropic als auch OpenAI jeweils ihr stärkstes Modell – eines war Fable 5.1, das andere GPT-6 Astra.

Werden andere Unternehmen ihre neuen Modelle trotz vieler Forderungen noch veröffentlichen?

Original-Link