Die Hintergrundgeschichte des Zerwürfnisses zwischen zwei KI-Giganten – dramatischer als eine Hofintrige

Von: Bitpush

Die Einzelheiten der teuersten „Trennung“ im Silicon Valley liegen nun endgültig offen.

Kürzlich veröffentlichte The Atlantic den ersten Auszug aus The AGI Chronicles, dem neuen Buch des bekannten amerikanischen Bestsellerautors und Podcast-Moderators Kevin Roose. Für dieses Werk befragte Roose über 150 Insider von OpenAI, Anthropic und Google DeepMind und stützte sich auf zahlreiche nicht öffentliche Unternehmensdokumente und interne Memos, um diese bislang spektakulärste Auseinandersetzung der Silicon-Valley-Geschichte zu rekonstruieren.

Wenn Sie nur wissen, dass Dario Amodei Ende 2020 OpenAI mit einer Gruppe verließ, um Anthropic zu gründen, dann kennen Sie lediglich die Spitze des Eisbergs. Was wirklich verblüffend ist, sind die vor seiner Abkehr stattgefundenen „Hofintrigen“.

Der „Länderplan“: Ein gewagter Vorschlag, die AGI zu versteigern

Amodei hegte einst große Hoffnungen für OpenAI. 2016 verließ er Google, um dieser jungen gemeinnützigen Forschungseinrichtung beizutreten. Laut Roose war er maßgeblich daran beteiligt, OpenAI auf den Weg der großen Sprachmodelle zu lenken; sein Team wirkte an der Entwicklung von GPT-2 und GPT-3 mit.

Während die Forschung fortschritt, gewann bei Amodei zunehmend die Überzeugung an Boden, dass größere Modelle zur KI-allgemeiner Intelligenz (AGI) führen könnten. Gleichzeitig schwand jedoch sein Vertrauen in die Unternehmensführung immer mehr.

Eines der frühesten Ereignisse, das ihm missfiel, ereignete sich 2017.

Zu jener Zeit begann die finanzielle Unterstützung von Elon Musk für OpenAI zu bröckeln, und das Labor benötigte dringend einen neuen Weg nach vorn. Mitgründer Greg Brockman und Chefwissenschaftler Ilya Sutskever schlugen intern einen Plan vor, der später als „Länderplan“ bekannt wurde.

Der Plan begann durchaus seriös: Er sah eine internationale Koalition vor, in der alle gemeinsam die Risiken der AGI steuern und deren Nutzen teilen würden.

Doch als Brockman und Sutskever ihn bei einer internen Mitarbeiterveranstaltung offiziell vorstellten, war er völlig entgleist: Er war zu einer Fundraising-Kampagne geworden, um die künftigen Rechte zur Nutzung der AGI-Technologie an verschiedene Regierungen „zu versteigern“ – darunter die der USA, Chinas und Russlands.

Ihre Logik lautete so: Da die AGI nationale Sicherheit betrifft, würden Regierungen sie früher oder später dem jeweiligen Entwicklungsunternehmen entreißen. Da sie ohnehin abgegeben werden müsse, könne man sie auch gleich zu einem guten Preis verkaufen – zumal das Unternehmen gerade knapp bei Kasse sei.

Eine Person, die die Präsentation kannte, kritisierte: „Es klang wie ein Haufen Tech-Leute, die einen verrückten Startup-Vorschlag machen – am Ende sagten sie einfach: ‚Übernimmt doch die Regierung die Kosten.‘“

Dario Amodei war damals OpenAIs Vizepräsident für Forschung. Nach der Präsentation sandte er einen ziemlich deutlichen E-Mail-Entwurf an Brockman, Sutskever und andere Führungskräfte. Darin schrieb er, der Plan „würde eher einen Rüstungswettlauf verschärfen als abschwächen“, könne „zu Menschenrechtsverletzungen führen“ und ermögliche es Regierungen, „Unvorstellbares“ gegen ihre eigene Bevölkerung zu tun – und „würde OpenAIs moralische Legitimität untergraben.“

Einfach gesagt: Wollt ihr die mächtigste Technologie der Menschheit an diese Länder verkaufen? Habt ihr den Verstand verloren?

Glücklicherweise rettete die anschließende Großinvestition von Microsoft die Lage, sodass der Plan nie realisiert wurde. OpenAI erklärte dazu, man habe „kurz erwogen, OpenAI in eine internationale Genossenschaft umzuwandeln“, aber „nicht erwogen, die AGI an China oder Russland zu verkaufen.“

Der Plan wurde letztlich nie umgesetzt, doch Amodei vergaß nicht, dass das Management ernsthaft eine Idee diskutiert hatte, die er als zutiefst verwerflich empfand.

Von Microsoft bis Kanye: Die Vertrauenskrise vertieft sich

Danach verstärkten scheinbar kleinere Vorfälle sukzessive sein Misstrauen.

Während der privaten Beta-Phase von GPT-3 bat Amodei Altman um die Liste der Kunden, die zur Nutzung des Modells zugelassen waren. Altman übermittelte ihm eine Liste, doch Amodei behauptete später, eine weitere, längere Liste entdeckt zu haben. Er begann zu vermuten, dass ihm nur gefilterte Informationen vorgelegt worden waren.

Ein Streit um die Microsoft-Investition verschärfte seine Bedenken weiter.

Die öffentliche Satzung von OpenAI enthält eine ungewöhnliche Klausel: Falls ein werteorientiertes, sicherheitsbewusstes Projekt kurz vor der Realisierung einer allgemeinen künstlichen Intelligenz (AGI) steht, wird OpenAI den Wettbewerb mit diesem Projekt einstellen und stattdessen dessen Entwicklung unterstützen. Damit hat unter bestimmten Umständen die Unternehmensmission Vorrang vor dem Rennen um die AGI.

Laut Roose’ neuem Buch wollte Amodei bei den Verhandlungen über eine 1-Mrd.-USD-Investition mit Microsoft sicherstellen, dass Microsoft die mögliche Übernahme durch OpenAI akzeptieren würde, um diese Verpflichtung einzulösen. Altman erklärte ihm, Microsoft werde die entsprechenden Bedingungen nicht akzeptieren.

Amodei hielt dies nicht für so einfach. Er vermutete, dass Altman – bestrebt, den Deal rasch abzuschließen – möglicherweise auf die Durchsetzung dieser Forderung verzichtet oder sie gar nicht erst gestellt hatte, um die Schuld Microsoft zuzuschieben.

Für Amodei wurde das Problem zunehmend unlösbar durch geschäftliche Gespräche: Er begann zu zweifeln, ob der ihm gegenüber sitzende Altman ihm wirklich alle Verhandlungsdetails offenlegte.

Bis 2020 tauchte überraschend Kanye West – der Rapper, der später öffentlich Bewunderung für Hitler äußerte – auf dieser wachsenden Liste von Missständen auf.

Unter Berufung auf zwei mit der Angelegenheit vertraute Personen berichtet Roose, dass Altman nach dem Treffen mit Kanye vorschlug, diesen an der privaten Beta-Phase von GPT-3 teilnehmen zu lassen.

Zu diesem Zeitpunkt war GPT-3 noch nicht öffentlich verfügbar und stellte OpenAIs wichtigstes Kernvermögen dar. Jack Clark, damals OpenAIs Policy-Direktor, intervenierte und blockierte den Vorschlag mit der Begründung, Kanye habe kürzlich ein Video veröffentlicht, das ihn beim Urinieren auf einen Grammy-Award zeige, und sein öffentliches Verhalten sei besorgniserregend. Kurz darauf begann Kanye, öffentlich Hitler zu bewundern.

Die Einladung kam nie zustande, doch sie verstärkte Amodeis Unzufriedenheit mit Altmans Urteilskraft weiter. Roose schreibt, dass die einzelnen Vorfälle wohl nicht ausgereicht hätten, um seinen Rücktritt zu bewirken, doch insgesamt erschwerten sie es ihm zunehmend, Altman als geeignet für den Umgang mit einer so mächtigen Technologie wie der AGI zu betrachten.

Roose enthüllt im Buch, dass Amodei bis 2020 völlig enttäuscht von OpenAIs Führung war. Er bezeichnete Altman als „zweigeteilten Manipulator“ und Brockman als „machthungrig und rücksichtslos“.

Tatsächlich reduzierte sich der Kernkonflikt zwischen ihnen auf zwei Worte: Vertrauen.

Berichten zufolge führte Amodei während seiner Zeit bei OpenAI ein privates Notizbuch, in dem er Momente festhielt, in denen er glaubte, von Altman getäuscht worden zu sein.

In einer dieser Notizen schrieb er: „OpenAIs Problem ist Sam selbst.“

Bildung von Fraktionen und Cliquen?

Auf der anderen Seite waren auch Mitarbeiter innerhalb von OpenAI zunehmend genervt von Amodei.

Laut Roose’ Recherchen zogen Amodei und seine Schwester Daniela nach und nach eine Gruppe gleichgesinnter Kollegen an. Sie richteten private Chatkanäle ein, hielten separate Meetings ab und diskutierten häufig Sicherheitsthemen. Für einige Mitarbeiter außerhalb dieses Kreises wurde die Gruppe zunehmend schwer zu kooperieren.

Ein ehemaliger Kollege beschwerte sich bei Roose, Amodei erkläre oft eine bestimmte Entscheidung als moralisch richtig – als ob der bloße Verweis auf Sicherheit die Debatte beenden müsste. Das verärgerte andere Teams.

Amodei war überzeugt, dass kommerzielle Ziele stets Sicherheitsverpflichtungen überlagern würden; manche Kollegen meinten, er habe Sicherheit zu einer unanfechtbaren Rechtfertigung gemacht. Ihre gegenseitige Unzufriedenheit griff daher von konkreten Entscheidungen auf Arbeitsstile und Charakterurteile über.

Letztlich konzentrierte sich der Konflikt auf eine konkrete Befugnis: Dürfte das Sicherheitsteam neue Produktstarts blockieren?

Laut Roose stellte Amodei Altman vor seinem Ausscheiden Bedingungen für seinen Verbleib – darunter auch dieses Veto-Recht für das Sicherheitsteam. Er hoffte, der Druck durch einen möglichen Massenabgang führender Forscher würde Altman zu Zugeständnissen bewegen.

In einem geheimen Gruppenchat beginnt der Countdown bis zur „Trennung“

Währenddessen wurde bereits ein Ausweg vorbereitet – noch während die Verhandlungen liefen.

Amodei und sechs Kollegen richteten einen privaten Slack-Kanal namens „BATNA“ ein – die beste Alternative zu einer Einigung. Mitglieder waren seine Schwester Daniela sowie Jack Clark, Sam McCandlish, Tom Brown, Chris Olah und Jared Kaplan.

Schon der Name der Gruppe verdeutlichte ihre Lage: Sie verhandelten zwar noch, waren aber bereits zum Weggang bereit.

Als sich die Bedingungen für einen Verbleib nicht vereinbaren ließen, zogen beide Seiten Anwälte hinzu und begannen mit den Verhandlungen über die intern als „Scheidung“ bezeichnete Trennung.

Laut Roose stimmte Altman zu, dieser Gruppe ein mehrwöchiges Rekrutierungsfenster für OpenAI-Mitarbeiter einzuräumen – im Gegenzug verpflichteten sie sich, ein Jahr lang niemanden abzuwerben; außerdem vereinbarten beide Seiten, sich öffentlich nicht herabzuziehen.

Im Dezember 2020 führte OpenAI eine virtuelle All-Hands-Veranstaltung durch.

Zunächst wirkte sie wie gewohnt: Altman berichtete über den Forschungsfortschritt, stellte neue Mitarbeiter vor und übergab dann das Wort an Amodei.

Anschließend kündigte Amodei an, dass er gemeinsam mit sechs weiteren Führungskräften OpenAI verlassen und eine neue Organisation für KI-Sicherheit gründen werde.

Laut Roose’ Schilderung füllte sich das Chat-Fenster rasch mit überraschten Nachrichten und Emojis. Als die Besprechung endete, tippte Jack Clark in den Chat: „Ich liebe euch alle“ – und der Bildschirm wurde abrupt schwarz.

Sieben Kernmitglieder von OpenAI – darunter Dario Amodei und seine Schwester Daniela Amodei – wurden gleichzeitig aus der Besprechung entfernt; ihr E-Mail- und Slack-Zugang wurde sofort gesperrt.

Anfang 2021 wurde Anthropic gegründet.

Wann enden die Grollgefühle?

Doch ein Neuanfang befreite Amodei nicht von den Problemen, die ihn einst belastet hatten.

Auch Anthropic musste Geld beschaffen, Rechenkapazität ausbauen und leistungsfähigere Modelle entwickeln. Nur durch Beherrschung der Spitzentechnologie konnte es die aktuellsten Risiken untersuchen – doch um an der Spitze zu bleiben, musste es weiter investieren und mit zunehmendem Wettbewerb fertigwerden. Mit dem Wachstum des Unternehmens stellte sich Amodei erneut die vertraute Frage: Wenn Sicherheit, Geschäft und Wettbewerb kollidieren – welches hat dann Vorrang?

Die gegenseitige Verbitterung zwischen beiden Seiten hat sich keineswegs abgeschwächt.

Menschen, die mit der Materie vertraut sind, berichten, Amodei habe Altman und OpenAI einst als „böse“ bezeichnet; gleichzeitig empfanden einige bei OpenAI die Geschwister Amodei als moralische Vorbilder, obwohl sie genauso machthungrig seien. Besonders störte sie, dass Anthropic öffentlich vor KI-Risiken warnte, während es zugleich seine Beteiligung am Wettlauf beschleunigte.

Im Buch beschreibt Roose diese KI-Führer als „ein Spinnennetz aus Feindseligkeit“: Hassabis sieht auf Altman herab, Amodei sieht auf Altman herab, Altman sieht auf Amodei herab – und auch auf Musk.

Jahre später hat sich das Netz nicht aufgelöst; stattdessen hat jeder neue Probleme. Bloomberg berichtet, Anthropic strebe eine Börsennotierung bereits Mitte November an – mit einer Zielbewertung von bis zu 2 Bio. USD; doch der Prospekt enthüllt auch die Kehrseite: Umsatz von rund 4,6 Mrd. USD im Jahr 2025, aber operative Verluste von über 8 Mrd. USD sowie eine zukünftige Verpflichtung, mehr als 500 Mrd. USD in Rechenleistung zu investieren. Altman hingegen bleibt bei einem Börsengang vorsichtig und betont, es gebe keinen Zeitdruck, bevor Sicherheit und Alignment geklärt seien – doch auch OpenAI wurde kürzlich von KI-Sicherheitsvorfällen heimgesucht.

Damals verließ Amodei OpenAI, weil er Altman nicht traute und ein Unternehmen gründen wollte, bei dem Sicherheitsverpflichtungen wirklich zählten. Nun steht auch sein eigenes Unternehmen vor derselben Zwickmühle: Nachhaltiges Wachstum und Sicherheitsbedenken – keines davon darf vernachlässigt werden. Auf diese Frage haben weder er noch Altman bisher eine Antwort gefunden.