Titolo originale: «Jensen Huang va a sinistra, Amodei a destra» Autore originale: Su Yang, Tencent Technology

Se l’IA di frontiera debba continuare ad accelerare o frenare è diventato il tema più controverso nella Silicon Valley oggi.

Intorno a questa controversia, i giganti della Silicon Valley hanno iniziato a schierarsi. Amodei, Altman, Musk e Hassabis hanno formato il «campo del rallentamento». Jensen Huang è un convinto «accelerazionista», che critica il «catastrofismo sull’IA» come privo di fondamento scientifico; Yann LeCun ha continuamente deriso Amodei, affermando: «(Amodei) riteneva già pericoloso rilasciare GPT-2 come open source quando era all’OpenAI. Lo presi in giro allora, e ora tutti possono farlo».

Al contrario, Zuckerberg e Nadella hanno assunto una posizione relativamente neutrale.

Lo schieramento dei giganti dimostra che la Silicon Valley non ha raggiunto un consenso sul blocco dei modelli di frontiera. Ciò deriva dalle diverse nicchie ecologiche occupate dalle aziende nella catena del valore dell’IA. I leader a livello di modelli possono chiedere una pausa per vari motivi, ma ottenere una risposta positiva da aziende come Oracle, AWS — che detengono ordini di calcolo per centinaia di miliardi di dollari — e Nvidia, al vertice della catena alimentare, è impossibile.

A Washington, l’appello al «rallentamento» non solo non ha ottenuto sostegno, ma ha scatenato una serie di dubbi.

«Mi sembra un po’ un cavallo di Troia.» Ha dichiarato JD Vance in un’intervista. Questa affermazione riflette effettivamente la visione reale di Washington: quando le aziende che costruiscono il cavallo di Troia chiedono ripetutamente di restringere il cancello, bisogna chiedersi quali aziende quel cancello favorisca davvero.

01 Rallentamento, avvertimento e una lettera di dimissioni

Il fattore scatenante di questo dibattito è stato il licenziamento di un ricercatore di Anthropic, Jacob Cockson.

Aveva precedentemente condotto tre anni di ricerca sul pre-addestramento presso OpenAI e Anthropic, partecipando personalmente all’addestramento dei modelli più avanzati. In un lungo post su X, ha evitato quasi del tutto formalità: «Nessuna delle due aziende agisce in modo responsabile. Corrono dritte verso un’intelligenza superiore auto-migliorante, scommettendo sulla nostra vita».

Ha affermato apertamente che chi lavora nei laboratori crede sinceramente che l’IA possa sterminare l’intera umanità entro un decennio, e ciò non è affatto una mossa di PR. Molti colleghi usano già espressioni come «momento critico» e «fine gioco» per descrivere la fase attuale. Cockson ha addirittura rinunciato a quote azionarie prossime alla vestizione: aveva lavorato in Anthropic solo quattro mesi, mentre le regole aziendali richiedono sei mesi per esercitare le opzioni.

L’ex ricercatore di Anthropic Jacob Coxon

Poco dopo, Evan Hubinger, capo della scienza dell’allineamento di Anthropic, ha risposto pubblicamente: «Coxon ha ragione, crediamo davvero che l’IA possa sterminare l’umanità. Personalmente ritengo che la probabilità superi il 10% entro dieci anni. Anthropic ci sta provando, ma non abbiamo ancora un piano chiaro per allineare l’intelligenza superiore, né siamo vicini a esserci».

Questi due interventi hanno portato alla luce pubblica preoccupazioni finora circoscritte ai laboratori. In questo contesto, Dario Amodei, fondatore e CEO di Anthropic, ha rapidamente pubblicato un lungo saggio, proponendo sistematicamente l’idea di «rallentare la ricerca di frontiera». Non ha più parlato soltanto di «investire di più nella sicurezza», ma ha esplicitamente chiesto di controllare attivamente il ritmo dei balzi di capacità, per dare tempo ai meccanismi di sicurezza di recuperare terreno.

Altman, Musk e Hassabis hanno subito appoggiato pubblicamente questa posizione, formando la «fazione del rallentamento».

Prima degli argomenti di «decelerazione» di Jacob Coxon e Amodei, «padri fondatori dell’IA» come Yoshua Bengio e Geoffrey Hinton avevano già lanciato ripetuti appelli sui rischi.

Parlando delle dimissioni di Coxon, Bengio ha affermato che gli scienziati dei laboratori leader nell’IA possono spesso osservare le capacità degli ultimi modelli prima del pubblico, quindi i loro giudizi sui rischi meritano seria attenzione.

Allo stesso tempo, Bengio ha fornito esempi concreti, affermando che gli attuali sistemi IA possiedono già capacità di hacking e persuasione e, se utilizzati per danneggiare gli interessi umani, potrebbero causare conseguenze gravi. Tema inoltre che, con l’acquisizione di capacità di pianificazione su orizzonti temporali più lunghi, tali rischi potrebbero ampliarsi ulteriormente.

Interrogato dalla BBC sulla probabilità che l’IA «uccida tutti gli esseri umani» entro il prossimo decennio superi il 10%, Geoffrey Hinton ha dichiarato che tale cifra è «non irragionevole», ma ha sottolineato che nessuno sa davvero fornire una stima affidabile, poiché l’umanità non ha mai prima affrontato «l’esistenza di una specie che potrebbe presto diventare più intelligente di noi».

Hinton ritiene che in futuro l’IA potrebbe essere usata per progettare virus biologici pericolosi, virus informatici e lanciare attacchi informatici su larga scala. L’umanità deve quindi trovare metodi efficaci di controllo prima che i rischi sfuggano al controllo.

A differenza dei sostenitori della nuova «teoria della pausa» della Silicon Valley, i «padri fondatori dell’IA» mirano soprattutto ad attirare l’attenzione sui rischi ed esplorare meccanismi di controllo, piuttosto che premere direttamente il freno. Inoltre, sul piano delle posizioni, le opinioni e i suggerimenti accademici sono motivati in modo più puro, mentre le iniziative dei laboratori all’avanguardia, anche se ufficialmente etichettate come «per l’umanità», difficilmente si distaccano al 100% da considerazioni commerciali.

È proprio per questo che JD Vance ha definito la «teoria della pausa» un cavallo di Troia.

02 Divergenze e schieramenti

Le correnti «accelerazionista», «decelerazionista» e «moderata». Fonte: The New York Times

Il 15 settembre, diversi leader di aziende tecnologiche hanno parlato consecutivamente alla conferenza Salesforce Dreamforce, trasformando questo dibattito in uno scontro più diretto di visioni.

Quel giorno, Amodei, Jensen Huang e Altman hanno tutti affrontato il tema della sicurezza dell’IA, ma hanno fornito risposte diverse riguardo al ritmo di sviluppo, alle responsabilità in materia di sicurezza e a ciò che le aziende dovrebbero fare.

Quando Amodei è salito sul palco insieme al CEO di Salesforce Marc Benioff, ha ribadito che le aziende IA dovrebbero fissare standard di sicurezza più elevati attraverso azioni autonome. Ritiene che l’adozione proattiva di misure di sicurezza più rigorose possa diventare un motore per far progredire l’intero settore.

In altre parole, la posizione di Amodei ha iniziato a evolversi, passando dall’appello a un rallentamento generale del settore all’invito alle aziende ad adottare autonomamente barriere di sicurezza.

Jensen Huang ha affermato che «non servono nuove leggi né nuovi regolamenti». Secondo lui, velocità e sicurezza non sono alternative esclusive: le aziende possono sviluppare i modelli il più rapidamente possibile; se tuttavia emergono segnali di perdita di controllo o se il prodotto non garantisce sicurezza, devono fermarsi e risolvere il problema.

L’atteggiamento di Benioff è stato più aperto e incentrato sull’autonomia. Ha dichiarato che, se un’azienda ritiene opportuno rallentare, deve farlo; se ritiene invece di dover accelerare, deve farlo, assumendosi la responsabilità delle proprie decisioni.

Il fondatore e CEO di OpenAI, Altman, ha dichiarato all’evento Dreamforce di avere grande fiducia nella capacità di OpenAI — e dell’intero settore IA — di svilupparsi in modo sicuro, senza arrecare danni significativi al pubblico. Ha inoltre espresso disappunto per l’interpretazione esterna delle sue affermazioni come sostegno a un rallentamento generalizzato dello sviluppo IA.

In altre parole, anche Altman ha iniziato a modificare la sua posizione, sottolineando che il suo obiettivo non era chiedere un rallentamento del settore, bensì far sì che il lavoro su sicurezza e monitoraggio preceda il miglioramento delle capacità.

Zuckerberg, al contrario, non ritiene che le azioni di sicurezza di un’azienda debbano presupporre un rallentamento sincrono da parte delle altre aziende IA. Ritiene che l’introduzione di istituti di valutazione indipendenti e consulenti esterni per testare la sicurezza dei modelli sia una best practice industriale. Ha inoltre rivelato che Meta aveva precedentemente rallentato autonomamente lo sviluppo dello strumento IA Muse, senza attendere che altre aziende raggiungessero prima un accordo sul rallentamento dello sviluppo IA.

La posizione del CEO di Microsoft, Satya Nadella, è in parte allineata a quella di Altman: incoraggia l’introduzione di barriere di sicurezza ma anche la piena concorrenza.

«La prima cosa da fare è servire l’umanità e garantire che la tecnologia resti sotto il controllo umano. Allo stesso tempo, la diffusione capillare della tecnologia IA è ciò che conta di più: devono esserci scelta e concorrenza. La sicurezza va presa sul serio, ma va affrontata tramite ingegneria e trasparenza, non rendendola misteriosa», ha dichiarato Nadella il 15 settembre partecipando al Summit All-In 2026.

Oltre a questi imprenditori, si sono aggiunte voci provenienti da Washington.

Dopo che Trump ha chiamato direttamente Jensen Huang ed espresso pubblicamente sostegno allo sviluppo continuo del settore dell'IA, David Sacks, co-presidente del Consiglio presidenziale degli esperti scientifici e tecnologici, ha successivamente affermato che le aziende tecnologiche possono proseguire nello sviluppo dell'IA di frontiera, mettendo in dubbio le motivazioni alla base degli argomenti di «rallentamento» avanzati da alcune aziende.

03 Chi stabilisce le regole?

Con l'ampliarsi del dibattito, la controversia si è estesa oltre il rischio legato all'IA, fino a interrogarsi se gli standard di sicurezza per l'IA di frontiera debbano essere definiti dalle aziende stesse o richiedano invece un intervento governativo e di istituzioni indipendenti.

Secondo Bloomberg, citando fonti informate, Anthropic, Google e OpenAI avevano precedentemente discusso la creazione di un organismo di standardizzazione per il settore dell'IA.

A luglio Hassabis ha pubblicato un articolo in cui proponeva la costituzione di un'agenzia statunitense per gli standard sull'IA, operante in modo analogo all'Autorità di regolamentazione del settore finanziario (FINRA). Questa agenzia potrebbe testare i modelli avanzati di IA prima della loro messa in produzione per verificare il rispetto degli opportuni standard di sicurezza.

Nella visione di Hassabis, tale agenzia non dovrebbe essere interamente guidata dal governo, ma adottare un modello di partenariato pubblico-privato: il governo avrebbe un ruolo di supervisione, il settore dell'IA fornirebbe i fondi, mentre esperti tecnici indipendenti di alto livello e rappresentanti della comunità open source parteciperebbero attivamente.

Hassabis mirava a introdurre un controllo indipendente sulla sicurezza prima che i modelli entrassero nel mondo reale, in linea con una logica regolatoria annunciata dal governo statunitense agli inizi di giugno: le aziende potrebbero volontariamente sottoporre i propri modelli a valutazione governativa prima della diffusione pubblica, con una finestra di accesso massima di 30 giorni prima del lancio, senza approvazione obbligatoria né licenza di rilascio.

Ciò che risulta piuttosto drammatico è che, al lancio successivo di Fable 5 e Mythos 5, tali modelli non hanno seguito questo processo, ma sono risultati dotati di eccezionali capacità offensive e difensive informatiche, venendo infine brevemente ritirati dal BIS statunitense mediante controlli alle esportazioni.

Tuttavia, la posizione politica richiede soltanto l'introduzione di misure di sicurezza, senza formulare dichiarazioni o indicazioni sul rallentamento.

Condivide questa visione anche Jakub Pachocki, Chief Scientist di OpenAI. All'inizio di settembre ha sottolineato che, attualmente, priorità assoluta devono essere la condivisione degli standard di sicurezza e il coordinamento internazionale sul futuro sviluppo dell'IA.

04 Nessuno sta davvero frenando

Finora questo dibattito non ha realmente modificato il ritmo di sviluppo delle aziende specializzate nell'IA di frontiera.

Aziende come Anthropic, OpenAI, Google e xAI proseguono comunque nella ricerca e nello sviluppo di modelli, e la competizione su potenza di calcolo, data center e infrastrutture per l'IA non si è arrestata a causa di questo dibattito. A livello di mercati finanziari, tuttavia, emergono cambiamenti diversi: Anthropic sta ancora preparando la sua IPO quest'anno, mentre OpenAI ha rinviato il piano IPO al 2027.

Amodei vorrebbe fermare l'intero settore e coinvolgere Anthropic nella ricerca di soluzioni per contenere le capacità dei modelli che superano i limiti stabiliti, atteggiamento che, in una certa misura, può essere interpretato come «generosità a spese altrui».

È proprio per questo che Amodei è stato etichettato come «finto angioletto perfetto».

Sul tema del controllo dei rischi, la posizione rappresentata da Jensen Huang corrisponde meglio alla situazione attuale: se le aziende nutrono preoccupazioni o individuano problemi, possono pienamente esplorare soluzioni autonome e condividere con il settore quelle efficaci.

Chiedere a un team di 100 persone e a uno di 1.000 di fermarsi contemporaneamente manca completamente di basi per raggiungere un consenso. Lo stesso Amodei sa bene che, fermandosi da solo, rischia fortemente di essere superato da concorrenti come OpenAI.

Ancora più importante, vi sono differenze a livello di governance societaria. Anthropic e OpenAI sono entrambe Public Benefit Companies, quindi possono invocare «il sacrificio di interessi finanziari a breve termine per il futuro dell'umanità» e comunicare agli investitori «abbiamo raggiunto questo accordo da tempo». Per società quotate come Google, Microsoft e Meta, invece, la direzione ha un dovere fiduciario legale verso gli azionisti del mercato secondario.

Per aziende con questi due diversi insiemi di interessi, la possibilità di raggiungere un accordo su questo punto è anch'essa molto ridotta.

Un altro dettaglio facilmente trascurabile: prima della teoria della «pausa», sia Anthropic che OpenAI hanno rilasciato ciascuna il proprio modello più potente, rispettivamente Fable 5.1 e GPT-6 Astra.

Amid un coro di richieste, altre aziende rilasceranno comunque i loro nuovi modelli?

Link originale