La storia segreta della rottura tra due giganti dell'IA, più drammatica di un intrigo di corte

Di: Bitpush

I dettagli della rottura più costosa della Silicon Valley sono finalmente stati svelati.

Recentemente, The Atlantic ha pubblicato il primo estratto de Le Cronache dell'AGI, il nuovo libro di Kevin Roose, noto autore statunitense di bestseller e conduttore di podcast. Per questo libro, Roose ha intervistato oltre 150 insider di OpenAI, Anthropic e Google DeepMind, attingendo a una vasta mole di documenti aziendali non divulgati e memoranda interni per ricostruire questa rottura sensazionale della storia della Silicon Valley.

Se sapete solo che Dario Amodei lasciò OpenAI alla fine del 2020 con un gruppo di persone per fondare Anthropic, allora ne conoscete solo la punta dell’iceberg. Ciò che lascia davvero senza fiato è l'«intrigo di corte» che si svolse prima della sua partenza.

Il «Piano Nazioni»: una proposta folle di asta sull'AGI

Amodei nutriva grandi speranze per OpenAI. Nel 2016 lasciò Google per unirsi a questa giovane istituzione di ricerca senza fini di lucro. Secondo il racconto di Roose, fu una figura chiave nel guidare OpenAI verso la strada dei modelli linguistici su larga scala, e il suo team partecipò allo sviluppo di GPT-2 e GPT-3.

Man mano che la ricerca progredì, Amodei divenne sempre più convinto che modelli su scala maggiore avrebbero potuto portare all'AGI—l'intelligenza artificiale generale. Ma contemporaneamente la sua fiducia nella leadership aziendale continuava a erodersi.

Una delle prime cose che lo infastidirono accadde nel 2017.

All’epoca, il sostegno finanziario di Musk a OpenAI cominciava a vacillare e il laboratorio aveva urgente bisogno di trovare una nuova strada. Il cofondatore Greg Brockman e il chief scientist Ilya Sutskever proposero un piano interno che in seguito sarebbe stato chiamato il «Piano Nazioni».

Il piano iniziò in modo rispettabile, immaginando una coalizione internazionale in cui tutti avrebbero gestito congiuntamente i rischi legati all'AGI e ne avrebbero condiviso i benefici.

Ma quando Brockman e Sutskever lo presentarono formalmente ai dipendenti in una riunione interna, era completamente sfuggito di mano: si era trasformato in una campagna di raccolta fondi per «mettere all’asta» i futuri diritti d’uso della tecnologia AGI a vari governi, citando tra gli altri Stati Uniti, Cina e Russia.

La logica dei due uomini era la seguente: l'AGI riguarda la sicurezza nazionale, quindi prima o poi i governi l’avrebbero requisita dall’azienda che l’avesse sviluppata. Poiché sarebbe stata comunque consegnata, tanto valeva venderla a buon prezzo mentre l’azienda era in difficoltà finanziaria.

Una persona informata sulla presentazione si lamentò: «Sembrava un gruppo di tech che pitchava una startup pazza, e alla fine dicevano semplicemente: “Faccia il conto il governo”».

Dario Amodei era all’epoca vicepresidente della ricerca di OpenAI. Dopo averlo ascoltato, inviò un'email a Brockman, Sutskever e ad altri dirigenti, in termini piuttosto espliciti. Nella mail scrisse che il piano «avrebbe aggravato, anziché ridurre, una corsa agli armamenti», avrebbe potuto «portare a atrocità contro i diritti umani» e consentire loro di fare «cose indicibili» al proprio popolo, «minando così la legittimità morale di OpenAI».

In parole povere: volete vendere la tecnologia più potente dell’umanità? Avete perso la testa?

Fortunatamente, il successivo ingente investimento di Microsoft salvò la situazione e il piano non vide mai la luce. La risposta di OpenAI fu che l’azienda «aveva brevemente valutato se trasformare OpenAI in un’iniziativa cooperativa internazionale», ma «non aveva preso in considerazione la vendita dell’AGI a Cina o Russia».

Il piano alla fine non fu mai attuato, ma Amodei non dimenticò che la direzione aveva seriamente discusso un'idea che lui riteneva profondamente ripugnante.

Da Microsoft a Kanye, le crepe nella fiducia si approfondiscono

Dopodiché, una serie di questioni apparentemente minori continuò ad alimentare la sua sfiducia.

Durante la beta privata di GPT-3, Amodei chiese ad Altman l'elenco dei clienti autorizzati all'uso del modello. Altman gli fornì un elenco, ma Amodei affermò di aver successivamente scoperto un altro elenco, più lungo. Cominciò a sospettare che le informazioni da lui ricevute fossero state filtrate.

Un disaccordo sull'investimento di Microsoft aggravò ulteriormente i suoi dubbi.

La carta costitutiva pubblica di OpenAI contiene una clausola piuttosto insolita: se un progetto allineato ai valori e attento alla sicurezza si avvicinasse per primo al raggiungimento dell'AGI, OpenAI cesserebbe di competere con esso e lo supporterebbe invece. Ciò significa che, in determinate circostanze, la missione aziendale deve prevalere sulla corsa al successo.

Secondo il nuovo libro di Roose, durante i negoziati per un investimento da 1 miliardo di dollari con Microsoft, Amodei volle assicurarsi che Microsoft accettasse l'accordo di acquisizione di OpenAI, che avrebbe potuto essere utilizzato per dare attuazione a tale impegno. Altman gli rispose che Microsoft non avrebbe accettato i termini pertinenti.

Amodei non riteneva la questione così semplice. Sospettava che Altman, ansioso di chiudere rapidamente l'accordo, avesse rinunciato a insistere su tale richiesta — o non l'avesse neppure sollevata — addossandone la responsabilità a Microsoft.

Agli occhi di Amodei, il problema diventava sempre più difficile da risolvere attraverso discussioni commerciali: aveva cominciato a dubitare che l'Altman seduto di fronte a lui fosse disposto a fornirgli un resoconto completo dei negoziati.

Nel 2020, Kanye West — il rapper che in seguito avrebbe espresso pubblicamente ammirazione per Hitler — comparve inaspettatamente in questa crescente lista di motivi di dissenso.

Citando due persone a conoscenza della vicenda, Roose riferisce che, dopo aver incontrato Kanye, Altman propose di includerlo nella beta privata di GPT-3.

All'epoca, GPT-3 non era ancora stato reso pubblico ed era l'asset centrale e più prezioso di OpenAI. Jack Clark, allora direttore delle politiche di OpenAI, intervenne per bloccare la proposta, osservando che Kanye aveva recentemente pubblicato un video in cui sembrava orinare su un premio Grammy e che il suo comportamento pubblico destava preoccupazione. Poco dopo, Kanye iniziò a esprimere pubblicamente ammirazione per Hitler.

L'invito non andò mai in porto, ma acuì ulteriormente il malcontento di Amodei nei confronti del giudizio di Altman. Roose scrive che, presi singolarmente, la maggior parte di tali episodi non sarebbe stata sufficiente a indurlo alle dimissioni, ma nel loro insieme avevano reso difficile per lui credere che Altman fosse adatto a gestire una tecnologia potente quanto l'AGI.

Roose rivela nel libro che, già nel 2020, Amodei era profondamente deluso dalla leadership di OpenAI. Descrisse Altman come un «manipolatore doppiogiochista» e Brockman come «ambizioso e imprudente».

In realtà, il conflitto fondamentale tra loro si riduceva a due parole: fiducia.

Secondo quanto riportato, Amodei tenne un piccolo quaderno privato durante il suo periodo in OpenAI, annotandovi i momenti in cui sentiva che Altman lo aveva ingannato.

In una di quelle note scrisse: «Il problema di OpenAI è lo stesso Sam».

Formazione di fazioni e gruppi ristretti?

Dall'altra parte, anche le persone interne a OpenAI erano sempre più stanche di Amodei.

Secondo le informazioni raccolte da Roose, Amodei e sua sorella Daniela coinvolsero gradualmente un gruppo di colleghi con idee simili. Crearono canali di chat privati, organizzarono riunioni separate e discussero spesso temi legati alla sicurezza. Per alcuni dipendenti esterni al gruppo, collaborare con loro divenne progressivamente più difficile.

Un ex collega si lamentò con Roose che Amodei dichiarava spesso una scelta specifica come moralmente corretta, come se invocare la sicurezza dovesse chiudere ogni dibattito. Ciò infuriò altri team.

Amodei riteneva che gli obiettivi commerciali avrebbero sempre prevalso sugli impegni per la sicurezza; alcuni colleghi sentivano che aveva trasformato la sicurezza in una giustificazione incontestabile. Questa reciproca insoddisfazione si estese così dalle decisioni specifiche agli stili di lavoro e ai giudizi sul carattere.

Alla fine, il conflitto si concentrò su un potere concreto: il team per la sicurezza poteva veto sui lanci di nuovi prodotti?

Secondo Roose, prima di andarsene, Amodei presentò ad Altman una serie di condizioni per rimanere, tra cui proprio il potere di veto per il team sicurezza. Sperava che la pressione derivante da un potenziale esodo collettivo di ricercatori chiave spingesse Altman ad accettare cambiamenti.

In una chat di gruppo segreta, inizia il conto alla rovescia verso una «scissione»

Nel frattempo, mentre i negoziati erano ancora in corso, era già stata predisposta una via d’uscita.

Amodei e sei colleghi crearono un canale privato su Slack chiamato «BATNA» — la migliore alternativa a un accordo negoziale. Ne facevano parte sua sorella Daniela, nonché Jack Clark, Sam McCandlish, Tom Brown, Chris Olah e Jared Kaplan.

Il nome stesso del gruppo diceva tutto sulla loro situazione: stavano ancora negoziano, ma erano già pronti a lasciare.

Quando le condizioni per rimanere non furono concordate, entrambe le parti coinvolsero avvocati e iniziarono a negoziare quella che internamente veniva chiamata «la separazione».

Secondo quanto riferito da Roose, Altman acconsentì a concedere a questo gruppo una finestra di reclutamento di alcune settimane per assumere dipendenti OpenAI, in cambio dell’impegno a non fare poaching per un anno successivo; le due parti concordarono inoltre di non denigrarsi pubblicamente.

A dicembre 2020, OpenAI tenne una riunione virtuale con tutti i dipendenti.

All’inizio, non sembrava diversa dal solito. Altman illustrò i progressi della ricerca, presentò i nuovi assunti e cedette la parola ad Amodei.

Poi Amodei annunciò che lui e altri sei leader avrebbero lasciato l’azienda per fondare una nuova organizzazione dedicata alla sicurezza dell’IA.

Secondo la descrizione di Roose, la finestra della chat si riempì subito di messaggi sorpresi ed emoji. Mentre la riunione volgeva al termine, Jack Clark digitò nella chat: «Vi voglio bene», dopodiché lo schermo si spense improvvisamente.

Sette membri chiave di OpenAI, tra cui Dario Amodei e sua sorella Daniela Amodei, furono espulsi dalla riunione nello stesso istante e il loro accesso a email e Slack fu revocato immediatamente.

Poi, all’inizio del 2021, fu fondata Anthropic.

Quando finiranno i rancori?

Ricominciare, tuttavia, non liberò Amodei dai problemi che lo avevano già afflitto.

Anche Anthropic doveva raccogliere fondi, ampliare la potenza di calcolo e sviluppare modelli più potenti. Solo padroneggiando le tecnologie all’avanguardia poteva studiare i rischi più avanzati; ma per restare all’avanguardia, doveva continuare a investire e affrontare concorrenti sempre più vicini. Con la crescita aziendale, Amodei dovette nuovamente rispondere a una domanda familiare: quando sicurezza, business e competizione entrano in conflitto, quale cede per primo?

Il risentimento reciproco tra le due parti non è affatto diminuito.

Persone informate sull’argomento affermano che Amodei avrebbe una volta definito Altman e OpenAI «malvagi»; nel frattempo, alcuni dipendenti di OpenAI ritenevano che i fratelli Amodei si presentassero come modelli morali pur essendo altrettanto avidi di potere. Li infastidiva particolarmente il fatto che Anthropic mettesse pubblicamente in guardia dai rischi dell’IA mentre accelerava contemporaneamente la propria partecipazione alla corsa tecnologica.

Nel libro, Roose descrive questi leader dell’IA come «una ragnatela intrecciata di ostilità»: Hassabis guarda dall’alto in basso Altman, Amodei guarda dall’alto in basso Altman, Altman guarda dall’alto in basso Amodei e Altman guarda dall’alto in basso anche Musk.

A distanza di anni, la rete non si è sciolta; anzi, ciascuno di loro affronta nuovi problemi. Bloomberg riferisce che Anthropic punta a quotarsi già a metà novembre, con una valutazione obiettivo fino a 2.000 miliardi di dollari; tuttavia, il prospetto rivela anche l’altra faccia: ricavi stimati di circa 4,6 miliardi di dollari nel 2025, ma perdite operative superiori agli 8 miliardi, oltre all’impegno futuro di investire oltre 500 miliardi di dollari in potenza computazionale. Altman, da parte sua, resta cauto riguardo a un’IPO, affermando che non c’è fretta di quotarsi prima di aver risolto le questioni di sicurezza e allineamento; tuttavia, OpenAI è stata recentemente colpita da incidenti legati alla sicurezza dell’IA.

All’epoca, Amodei se ne andò perché non aveva fiducia in Altman e voleva fondare un’azienda in cui gli impegni sulla sicurezza contassero davvero. Oggi la sua stessa azienda si trova di fronte allo stesso dilemma: sostenibilità della crescita e preoccupazioni per la sicurezza — nessuno dei due aspetti può essere trascurato. Su questa questione, nessuno dei due ha ancora fornito una risposta definitiva.