Titre original : « Jensen Huang part à gauche, Amodei part à droite » Auteur original : Su Yang, Tencent Technology

La question de savoir si l’IA de pointe doit poursuivre son accélération ou freiner est devenue le sujet le plus controversé actuellement dans la Silicon Valley.

Autour de cette controverse, les géants de la Silicon Valley ont commencé à prendre position. Amodei, Altman, Musk et Hassabis forment le « camp du ralentissement ». Jensen Huang est un « accélérationniste » convaincu, critiquant le « catastrophisme IA » comme dénué de fondement scientifique ; Yann LeCun s’est moqué à plusieurs reprises d’Amodei : « (Amodei) jugeait déjà GPT-2 trop dangereux pour être open-source lorsqu’il était chez OpenAI. Je me moquais de lui à l’époque, et désormais tout le monde peut continuer. »

En revanche, Zuckerberg et Nadella, entre autres, adoptent une position relativement neutre.

Le fait que ces géants prennent position signifie que la Silicon Valley n’a pas trouvé de consensus sur la suspension des modèles de pointe. Cela tient aux niches écologiques différentes occupées par chaque entreprise dans la chaîne industrielle de l’IA. Les leaders au niveau des modèles peuvent demander une pause pour diverses raisons, mais obtenir une réponse positive de sociétés comme Oracle, AWS — qui détiennent des centaines de milliards de dollars de commandes informatiques — ou de Nvidia, au sommet de la chaîne alimentaire, est impossible.

À Washington, l’appel à « suspendre » n’a pas seulement échoué à recueillir du soutien, mais a même suscité une série de doutes.

« Cela me semble un peu une sorte de cheval de Troie », a déclaré JD Vance dans un entretien. Cette déclaration reflète en réalité la véritable opinion de Washington : lorsque les entreprises construisant le cheval de Troie demandent sans cesse de rétrécir la porte, il convient d’examiner pour quelles entreprises cette porte est réellement conçue.

01 Suspension, alerte et lettre de démission

L’élément déclencheur de ce débat fut la démission d’un chercheur d’Anthropic, Jacob Cockson.

Il avait auparavant mené pendant trois ans des recherches sur l’entraînement préalable chez OpenAI et Anthropic, participant personnellement à l’entraînement des modèles les plus avancés. Dans un long message publié sur X, il ne fit presque aucune formule de politesse : « Aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence auto-améliorante, en jouant avec nos vies. »

Il affirma clairement que les personnes travaillant dans les laboratoires croient sincèrement que l’IA pourrait tuer toute l’humanité en dix ans, et cela n’est absolument pas une opération de communication. De nombreux collègues utilisent déjà des termes comme « moment critique » ou « fin de partie » pour décrire la phase actuelle. Cockson renonça même à des actions dont l’acquisition était imminente : il n’était chez Anthropic que depuis quatre mois, alors que les règles de l’entreprise exigent six mois pour exercer ses options.

Ancien chercheur d’Anthropic, Jacob Coxon

Peu après, Evan Hubinger, chef de la science de l’alignement chez Anthropic, répondit publiquement : « Jacob a raison, nous croyons sincèrement que l’IA pourrait tuer toute l’humanité. Personnellement, je pense qu’il y a plus de 10 % de chances que cela se produise dans les dix prochaines années. Anthropic essaie, mais nous ne disposons pas encore d’un plan clair pour aligner la superintelligence, et nous sommes loin d’être sur la bonne voie. »

Ces deux prises de position ont porté directement devant le grand public des inquiétudes qui fermentaient jusque-là principalement dans les laboratoires. Dans ce contexte, Dario Amodei, fondateur et PDG d’Anthropic, publia rapidement un long essai proposant systématiquement l’idée de « ralentir la recherche de pointe ». Il ne se contenta plus de parler d’« investir davantage dans la sécurité », mais appela explicitement à maîtriser activement le rythme des sauts de capacité afin de laisser le temps aux mécanismes de sécurité de rattraper leur retard.

Altman, Musk et Hassabis ont rapidement soutenu publiquement cette position, formant ainsi la « faction du ralentissement ».

Avant les arguments de « décélération » de Jacob Coxon et d’Amodei, des « pères fondateurs de l’IA » comme Yoshua Bengio et Geoffrey Hinton avaient déjà lancé à plusieurs reprises des appels à l’attention sur les risques.

À propos de la démission de Coxon, Bengio a déclaré que les scientifiques des laboratoires d’IA de pointe perçoivent souvent les capacités des modèles les plus récents plus tôt que le grand public, ce qui rend leurs évaluations des risques dignes d’une attention sérieuse.

Parallèlement, Bengio a donné des exemples concrets : les systèmes d’IA actuels possèdent déjà des capacités de piratage et de persuasion ; s’ils étaient utilisés contre les intérêts humains, ils pourraient avoir des conséquences graves. Il craint aussi que, à mesure que l’IA acquiert des capacités de planification à plus long terme, ces risques ne s’amplifient encore.

Interrogé par la BBC sur la probabilité qu’une IA « tue tous les humains » dans la prochaine décennie, dépassant 10 %, Geoffrey Hinton a jugé ce chiffre « pas déraisonnable », tout en soulignant qu’aucun n’est capable d’en donner une estimation fiable, car l’humanité n’a jamais encore fait face à « l’apparition d’une espèce susceptible de devenir bientôt plus intelligente que nous ».

Hinton estime que l’IA pourrait, à l’avenir, servir à concevoir des virus biologiques ou informatiques dangereux, ou à lancer de vastes cyberattaques. L’humanité doit donc trouver des méthodes efficaces de maîtrise avant que les risques ne deviennent incontrôlables.

Contrairement aux partisans de la nouvelle « théorie de la pause » californienne, les « pères fondateurs » de l’IA cherchent surtout à alerter sur les risques et à explorer des mécanismes de contrôle, plutôt qu’à freiner brutalement. En outre, sur le plan des intentions, les avis et propositions du milieu universitaire sont plus désintéressés, tandis que les initiatives des laboratoires de pointe, même explicitement étiquetées « pour l’humanité », restent difficilement dissociées à 100 % de considérations commerciales.

C’est précisément pourquoi JD Vance a qualifié la « théorie de la pause » de cheval de Troie.

02 Divergences et prises de position

Les courants « accélérationnistes », « décélérationnistes » et « modérés ». Source : The New York Times

Le 15 septembre, plusieurs dirigeants de sociétés technologiques se sont succédé à la conférence Salesforce Dreamforce, transformant ce débat en un affrontement plus direct d’opinions.

Ce jour-là, Amodei, Jensen Huang et Altman ont tous évoqué la sécurité de l’IA, mais ont formulé des réponses différentes sur le rythme de développement, les responsabilités en matière de sécurité et les mesures à prendre par les entreprises.

Lorsqu’Amodei partageait la scène avec Marc Benioff, PDG de Salesforce, il a réaffirmé que les entreprises d’IA devraient définir des normes de sécurité plus exigeantes par leurs propres actions. Selon lui, l’adoption proactive de mesures de sécurité renforcées peut devenir un levier pour faire progresser l’ensemble du secteur.

Autrement dit, la position d’Amodei évolue : il passe d’un appel à ralentir l’ensemble du secteur à un appel à l’installation autonome de garde-fous sécuritaires par les entreprises.

Jensen Huang a affirmé qu’« aucune nouvelle loi ni aucun nouveau règlement n’est nécessaire ». Pour lui, vitesse et sécurité ne s’opposent pas : les entreprises peuvent développer leurs modèles au maximum de leur potentiel ; si elles constatent une perte de contrôle ou une insuffisance de sécurité du produit, elles doivent suspendre le développement pour résoudre le problème.

L’attitude de Benioff est plus ouverte et met l’accent sur l’autonomie. Il a déclaré qu’une entreprise qui juge utile de ralentir doit le faire, et qu’une autre qui souhaite accélérer doit pouvoir le faire, en assumant pleinement ses décisions.

Le fondateur et PDG d’OpenAI, Sam Altman, a déclaré lors de l’événement Dreamforce être très confiant dans la capacité d’OpenAI — voire de toute l’industrie de l’IA — à innover en toute sécurité, sans causer de préjudice majeur au public. Il a également exprimé sa déception face à l’interprétation erronée de ses propos comme un soutien à un ralentissement généralisé du développement de l’IA.

Autrement dit, Altman lui aussi évolue : il insiste désormais sur le fait que son message n’était pas un appel au ralentissement sectoriel, mais un plaidoyer pour que les travaux de sécurité et de surveillance précèdent les améliorations de capacités.

Zuckerberg, quant à lui, rejette l’idée que la démarche sécuritaire d’une entreprise doive reposer sur l’hypothèse que les autres entreprises d’IA ralentissent simultanément. Il estime qu’intégrer des organismes d’évaluation indépendants et des conseillers externes pour tester la sécurité des modèles constitue une bonne pratique sectorielle. Il a également révélé que Meta avait, de son propre chef, ralenti le développement de l’outil d’IA Muse, sans attendre un consensus préalable entre entreprises sur un ralentissement global du développement de l’IA.

La position du PDG de Microsoft, Satya Nadella, s’aligne en partie sur celle d’Altman : il encourage à la fois l’ajout de garde-fous et la libre concurrence.

« La première priorité est de servir l’humanité et de garantir que la technologie reste sous contrôle humain. Parallèlement, la diffusion large de l’IA est essentielle : il faut du choix et de la concurrence. La sécurité doit être prise au sérieux, mais traitée via l’ingénierie et la transparence, non par un discours mystificateur », a déclaré Nadella le 15 septembre lors du sommet All-In 2026.

Au-delà de ces entrepreneurs, des voix venues de Washington se sont également jointes au débat.

Après qu’Trump ait personnellement appelé Jensen Huang et exprimé publiquement son soutien au développement continu de l’industrie de l’IA, David Sacks, coprésident du Conseil présidentiel des conseillers en sciences et technologies, a déclaré que les entreprises technologiques pouvaient continuer à faire progresser l’IA de pointe, tout en remettant en question les motifs derrière les arguments de « ralentissement » avancés par certaines sociétés.

03 Qui fixe les règles ?

À mesure que la discussion s’est élargie, la controverse s’est étendue au-delà des risques liés à l’IA pour englober la question de savoir si les normes de sécurité pour l’IA de pointe doivent être définies par les entreprises elles-mêmes ou nécessitent l’intervention de l’État et d’institutions indépendantes.

Selon Bloomberg, citant des personnes familières avec le dossier, Anthropic, Google et OpenAI avaient déjà discuté de la création d’un organisme de normalisation pour l’industrie de l’IA.

En juillet, Hassabis a publié un article proposant la création d’une agence américaine de normalisation de l’IA, fonctionnant de manière similaire à l’Autorité de régulation de l’industrie financière (FINRA). Celle-ci pourrait tester les modèles d’IA avancés avant leur déploiement officiel afin de vérifier leur conformité aux normes de sécurité correspondantes.

Dans la vision de Hassabis, cette agence ne devrait pas être entièrement pilotée par l’État, mais adopter un modèle de partenariat public-privé : l’État y jouerait un rôle de supervision, l’industrie de l’IA assurerait le financement, et des experts techniques indépendants de haut niveau ainsi que des représentants de la communauté open source y participeraient.

Hassabis souhaitait instaurer une vérification indépendante de la sécurité avant la mise en service réelle des modèles, ce qui s’inscrit parfaitement dans la logique réglementaire annoncée par le gouvernement américain début juin : les entreprises peuvent volontairement soumettre leurs modèles à l’évaluation gouvernementale avant leur diffusion publique, avec une fenêtre d’accès allant jusqu’à 30 jours avant la sortie, sans approbation obligatoire ni licence de diffusion.

Ce qui est assez spectaculaire, c’est que, lors du lancement ultérieur de Fable 5 et Mythos 5, ces modèles n’ont pas suivi ce processus, mais se sont révélés dotés de capacités offensives et défensives cybernétiques extrêmement puissantes, conduisant finalement leur retrait temporaire par le BIS américain sous forme de contrôles à l’exportation.

Même ainsi, la position politique ne fait appel qu’à l’ajout de garde-fous en matière de sécurité, sans émettre aucune déclaration ni recommandation sur un ralentissement.

Jakub Pachocki, scientifique en chef d’OpenAI, partage une vision similaire à celle de Hassabis. Début septembre, il a également souligné que le partage des normes de sécurité et la coordination internationale autour du développement futur de l’IA devaient constituer la priorité actuelle.

04 Personne ne freine vraiment

Jusqu’à présent, ce débat n’a pas véritablement modifié le rythme de développement des entreprises spécialisées dans l’IA de pointe.

Des entreprises telles qu’Anthropic, OpenAI, Google et xAI poursuivent activement la recherche et le développement de modèles, et la compétition autour de la puissance de calcul, des centres de données et des infrastructures IA n’a pas cessé à cause de ce débat. Sur les marchés financiers, en revanche, des évolutions divergentes apparaissent : Anthropic prépare toujours son introduction en bourse cette année, tandis qu’OpenAI a reporté son projet d’IPO à 2027.

Amodei souhaite faire stopper l’ensemble du secteur afin qu’il rejoigne Anthropic dans la recherche de solutions permettant d’instaurer des garde-fous face aux dépassements des capacités des modèles — ce qui peut, dans une certaine mesure, être perçu comme une « générosité aux dépens des autres ».

C’est aussi pourquoi Amodei a été qualifié de « petit ange prétendument irréprochable ».

Sur la question de la maîtrise des risques, la position défendue par Jensen Huang correspond davantage à la situation actuelle : si les entreprises ont des inquiétudes ou détectent des problèmes, elles peuvent pleinement explorer des solutions par elles-mêmes et partager avec le secteur les solutions efficaces qu’elles développent.

Exiger qu’une équipe de 100 personnes et une autre de 1 000 personnes s’arrêtent simultanément repose tout simplement sur aucun fondement consensuel. Même Amodei sait bien que, s’il s’arrête seul, il risque fort d’être dépassé par des concurrents tels qu’OpenAI.

Plus important encore, les structures de gouvernance d’entreprise diffèrent. Anthropic et OpenAI sont des « Public Benefit Companies », ce qui leur permet de plaider en faveur d’un « renoncement aux intérêts financiers à court terme pour l’avenir de l’humanité » et de dire aux investisseurs « nous avons pris cet engagement depuis longtemps ». En revanche, pour des sociétés cotées telles que Google, Microsoft et Meta, la direction a une obligation légale de loyauté envers les actionnaires du marché secondaire.

Pour des entreprises portant deux intérêts aussi distincts, la probabilité d’un consensus sur ce point reste donc très faible.

Un autre détail, souvent négligé, est le suivant : avant la théorie de la « pause », Anthropic et OpenAI ont successivement lancé leurs modèles les plus puissants, respectivement Fable 5.1 et GPT-6 Astra.

Dans un concert d'appels, d'autres entreprises lanceront-elles encore leurs nouveaux modèles ?

Lien original