原文タイトル：「ジェンセン・ファンが左へ、アモダイが右へ」著者：蘇陽（スー・ヤン）、テンセント・テクノロジー

最先端AIはさらに加速すべきか、それともブレーキをかけるべきか——これが今日のシリコンバレーで最も論争の多いテーマとなった。

この論争を巡り、シリコンバレーの大手企業が陣営を分けて行動し始めた。アモダイ、アルトマン、マスク、ハサビスは「一時停止派」を結成。一方ジェンセン・ファンは断固たる「加速主義者」で、「AIドゥーマー主義」を科学的根拠に欠けると批判；ヤン・ルクンはアモダイを繰り返し風刺し、「GPT-2ですら当時OpenAI在籍中にオープンソース化が危険だと考えていた（アモダイ）が、そのときすでに私は彼を嘲笑した。今や誰もが同様にできるだろう」と述べた。

これに対し、ザッカーバーグやナデラらは比較的中立な立場を取っている。

各社がそれぞれの立場を明確にしたことは、シリコンバレーが最先端モデルの一時停止について合意に至っていないことを意味する。これは各社がAI産業チェーン内で異なるエコロジカルニッチを占めていることに起因する。モデル段階のリーダー企業はさまざまな理由から一時停止を呼びかけられるが、数百億ドル規模の計算リソース注文を抱えるオラクルやAWS、およびサプライチェーン最上位に立つNVIDIAのような企業にそれを求めるのは、実質的に応答を得られない。

ワシントンでは、「一時停止」呼びかけは支持を得られず、むしろ一連の疑念を引き起こしている。

「私にはちょっとトロイの木馬のように感じられる」——J・D・バンス氏はインタビューでこう語った。この発言は実際、ワシントンの本音を反映しており、「トロイの木馬」を構築する企業が門を狭めることを繰り返し求めれば、その門が実際にはどの企業に都合が良いのかを検討すべきである。

01 一時停止、警告、そして辞職願

この論争の発端は、アンソロピックの研究者ジェイコブ・コックスンの辞職だった。

彼はかつてOpenAIおよびアンソロピックで3年間の事前学習研究を行い、最先端モデルの訓練に直接関与していた。X（旧Twitter）での長文投稿で、彼は丁寧な挨拶を一切省き、「どちらの企業も責任ある行動をしていない。我々の命を賭けて、自己改善型超知能への直進競争を続けている」と述べた。

彼は率直に、研究室内の人々が「AIが今後10年以内に全人類を殺す可能性がある」と本気で信じていると明言し、これは決してPR戦略ではないと強調。多くの同僚が既に現状を「決定的瞬間」「最終局面」と表現し始めていると指摘。コックスンは、実際に vested 予定だった株式報酬も放棄した。彼がアンソロピックに在籍したのはわずか4ヶ月で、同社規定ではオプション行使には6ヶ月の在籍が必要だった。

元アンソロピック研究者 ジェイコブ・コックスン

その後まもなく、アンソロピックのアライメント科学部門責任者エヴァン・ヒュービンガーが公に反論。「ジェイコブの主張は正しい。我々は本当にAIが全人類を殺す可能性があると信じている。個人的には、今後10年以内に10％を超える確率があると考えている。アンソロピックは取り組んでいるが、超知能のアライメントに関して明確な計画はまだなく、目標達成にはほど遠い。」

この2つの発言により、研究室内で密かに醸成されていた懸念が、一般に直接曝された。こうした背景を受け、アンソロピック創設者兼CEOのアモダイは速やかに長文エッセイを公開し、「最先端研究のペースを落とす」構想を体系的に提唱した。もはや「安全性への投資増加」だけではなく、能力の飛躍的向上を積極的に制御し、安全メカニズムが追いつく時間を確保することを明示的に呼びかけた。

アルトマン、マスク、ハサビスが直ちにこれを公に支持し、「一時停止派」を形成した。

ジェイコブ・コックスンやアモダイによる「減速」主張が登場する以前から、ヨシュア・ベンジオやジェフリー・ヒントンといった「AIの父」たちが、リスクへの警鐘を鳴らし続けていた。

コクソン氏の辞任について述べ、ベンジオ氏は、最先端AI研究室の科学者たちは一般市民よりも早く最新モデルの能力を把握できるため、そのリスク評価には真剣に耳を傾けるべきだと述べた。

同時にベンジオ氏は具体例を挙げ、現行AIシステムはすでにハッキングや説得能力を有しており、人間の利益を損なう目的で使われれば深刻な結果を招くと指摘。さらにAIが長期的計画能力を獲得すれば、こうしたリスクはさらに拡大すると懸念している。

BBCによる取材で、ジェフリー・ヒントン氏は「今後10年以内にAIが人類全員を殺す確率が10％を超える」という見解について、「不合理ではない」と述べたが、人類がかつて「我々よりすぐにも賢くなる存在」に直面したことはなく、信頼できる見積もり方法は誰にも分からないと強調した。

ヒントン氏は、将来AIが危険な生物ウイルスやコンピュータウイルスの設計、大規模サイバー攻撃の実行に悪用される可能性があるとし、リスクが制御不能になる前に、人類は効果的な管理手法を見出す必要があると主張した。

シリコンバレーの新「一時停止論」支持者とは異なり、「AIの父たち」はリスクへの注目喚起と管理メカニズムの探求を重視しており、単純な開発停止を主張しているわけではない。また、学界の立場・意見・提言は動機がより純粋であるのに対し、最先端研究室からのイニシアチブは、たとえ「人類のため」と明言されていても、商業的配慮から完全に切り離すのは困難である。

まさにこの点ゆえに、JD・ヴェンス氏は「一時停止論」をトロイの木馬に例えた。

02 見解の分岐と陣営形成

『加速主義派』『減速主義派』『中道派』。出典：ニューヨーク・タイムズ

9月15日、複数のテック企業リーダーがセールスフォースのドリームフォース会議で相次いで発言し、この議論はより直接的な対立へと発展し始めた。

当日、アモデイ氏、ジェンセン・ファン氏、アルトマン氏はいずれもAIの安全性について語ったが、開発ペース・安全責任・企業の対応策については異なる見解を示した。

アモデイ氏がセールスフォースCEOマーカス・ベニオフ氏とともに登壇した際、再びAI企業が自らの行動を通じてより高い安全基準を設定すべきだと強調。企業が自発的に厳格な安全対策を導入することは、業界全体を前進させる原動力になると述べた。

つまりアモデイ氏の立場は、業界全体の減速を求めるものから、各社が独自に安全ガードレールを設置する方向へとシフトしつつある。

ジェンセン・ファン氏は「新たな法律も規制も不要」と表明。彼の見解では、スピードと安全性は二者択一ではなく、企業は可能な限り迅速にモデル開発を進めつつ、制御不能状態や製品の安全性確保不能が判明した時点で中断して問題解決すべきだと主張した。

ベニオフ氏の姿勢はより開放的で自律性を重視。企業が減速すべきと判断すれば減速し、加速すべきと判断すれば加速すべきであり、その決断に伴う責任も自ら負うべきだと述べた。

OpenAI創設者兼CEOのアルトマン氏はドリームフォースイベントで、OpenAIひいてはAI業界全体が公衆に重大な被害を与えることなく安全に発展できると極めて自信を持っていると表明。また、自身の見解が業界全体の開発減速支持と誤解されたことに失望感を示した。

つまりアルトマン氏も立場を修正し、業界全体の減速を呼びかけたのではなく、能力向上に先立って安全性確保と監視体制の整備が必要だと強調するようになった。

一方、ザッカーバーグ氏は、他社のAI企業が同期して減速することを前提に自社の安全対策を講じるべきでないと主張。独立した評価機関や外部アドバイザーによるモデル安全性検証を業界のベストプラクティスと位置付け、Metaが以前Muse AIツールの開発を他社との合意を待たずに自主的に減速させた事例を明らかにした。

マイクロソフトCEOサティア・ナデラ氏の立場はアルトマン氏とやや一致し、ガードレールの追加を奨励しつつ、全面的な競争も促進している。

ナデラ氏は9月15日のAll-Inサミット2026出席時に、「まず第一に人類に奉仕し、技術が人間の支配下に留まることを保証すべきだ。同時に、AI技術の広範な普及こそが最も重要であり、選択肢と競争が不可欠だ。安全性は真剣に取り組むべきだが、それは工学的手法と透明性を通じて対応すべきであり、神話化すべきではない」と述べた。

これらの起業家に加え、ワシントンからの声もさらに参入している。

トランプ氏がジェンセン・ファン氏に直接電話をかけ、AI産業の継続的発展を公に支持した直後、米国科学技術政策諮問委員会（PCAST）共同議長のデイビッド・サックス氏は、テック企業が先端AIの進展を続けることは可能だと述べつつ、一部企業が主張する「減速」論の動機を疑問視した。

03 規則を定めるのは誰か？

議論が広がるにつれ、論争はAIリスクそのものから、先端AIの安全基準を企業が自主的に設定すべきか、それとも政府や独立機関による介入が必要かという問題へとさらに拡大した。

ブルームバーグは関係者への取材をもとに、アンソロピック、グーグル、オープンAIが以前からAI業界標準機関の設立を協議していたと報じた。

7月、ハサビス氏は米国主導のAI標準機関の設立を提唱する記事を発表した。この機関は金融業界規制当局（FINRA）と同様の運営モデルを採用し、先進AIモデルの正式展開前に安全性試験を行い、所定の安全基準を満たすかを判定する。

ハサビス氏の構想では、この機関は完全な政府主導ではなく、官民連携（PPP）モデルを採用すべきである。政府は監督役を担い、AI業界が資金を提供し、独立したトップ技術専門家およびオープンソースコミュニティ代表が参画する。

ハサビス氏が目指すのは、モデルが実世界に投入される直前の独立した安全性検証であり、これは6月初旬に米国政府が発表した規制方針——企業が自発的にモデルを政府に評価依頼でき、公開前最大30日間のアクセス期間を設けるが、義務的な承認やリリースライセンスは一切存在しない——と密接に一致する。

劇的なのは、その後リリースされたファブル5およびミソス5がこのプロセスを踏まず、極めて強力なサイバー攻撃・防御能力を備えていたことが判明し、最終的に米商務省産業安全保障局（BIS）により輸出管理措置の一環として一時的にサービス停止された点である。

とはいえ、当該政策姿勢は安全性確保のためのガードレール追加を求めるのみで、減速に関する声明や指針は一切示していない。

ハサビス氏と同様の見解を示すのは、オープンAIのチーフ・サイエンティスト、ヤクブ・パチョツキ氏である。9月初旬、彼は現在の最優先課題として、安全基準の共有および今後のAI発展に関する国際的調整の推進を強調した。

04 実際にブレーキを踏んでいる者はいない

現時点で、この論争は先端AI企業の開発ペースを実質的に変化させることはまだない。

アンソロピック、オープンAI、グーグル、xAIなどの企業は引き続きモデル研究開発を進め、計算資源・データセンター・AIインフラを巡る競争もこの論争によって止まっていない。一方、資本市場レベルでは異なる動きが見られ、アンソロピックは今年のIPO準備を継続しているが、オープンAIはIPO計画を2027年に延期した。

アモデイ氏は、業界全体を一時停止させ、アンソロピックと共にモデル能力の境界越えに対するガードレール策定という解決策を探ることを望んでいるが、これはある意味で「他者の犠牲の上での高潔さ」とも解釈できる。

そのためアモデイ氏は「完璧無欠の小さな天使を演じている」と揶揄されている。

リスク管理という観点では、ジェンセン・ファン氏が代表する見解こそが現状に最も合致している。企業が懸念を抱く、あるいは問題を発見した場合、自ら十分に解決策を模索し、得られた有効な解決策を業界と共有すればよい。

100人規模のチームと1,000人規模のチームに同時に停止を求めるのは、そもそも合意形成の根拠が全くない。アモデイ氏自身も、自分だけが停止すれば、オープンAIなどの競合に追い抜かれる可能性が高いことを十分に理解している。

さらに重要なのは、企業ガバナンスの違いである。アンソロピックとオープンAIはいずれも公益法人（Public Benefit Company）であり、「人類の将来のため短期的な財務利益を放棄する」と呼びかけ、投資家に対し「この点については既に長い前から合意済みだ」と説明できるが、グーグル、マイクロソフト、メタなどの上場企業の経営陣には、証券市場投資家に対する法的信義義務が課せられている。

こうした二つの異なる利害関係を持つ企業間では、この点について合意に達する可能性も極めて低い。

見落とされがちなもう一つの詳細がある。「一時停止論」が出る前、アンソロピックとオープンAIはそれぞれ自社最強モデルを相次いでリリースしており、前者はファブル5.1、後者はGPT-6アストラであった。

多くの要請が相次ぐ中、他社は新モデルを依然として発表するのか？

オリジナルリンク