2人のAI巨人の対立の内幕：宮廷陰謀よりもドラマチック

著者：Bitpush

サイリコンバレー史上最も高額な「破局」の詳細がついに明かされた。

最近、『アトランティック』誌が、米国で人気のベストセラー作家・ポッドキャストホストであるケビン・ルース氏の新刊『AGIクロニクルズ』から最初の抜粋を掲載した。本書の取材では、OpenAI、Anthropic、Google DeepMindの関係者150人以上へのインタビューに加え、多数の非公開社内文書や内部メモを基に、サイリコンバレー史上最もセンセーショナルな対立の全貌が明らかにされた。

ダリオ・アモデイ氏が2020年末にOpenAIを離れてAnthropicを設立したことは周知の事実だが、それは氷山の一角に過ぎない。真に衝撃的なのは、彼の退職直前に展開された「宮廷陰謀」だ。

『国家計画』：AGI権利をオークションにかけるという奇抜な提案

アモデイ氏はかつてOpenAIに大きな期待を寄せていた。2016年、彼はGoogleを辞め、この若き非営利研究機関に参画した。ルース氏の記述によれば、彼はOpenAIを大規模言語モデル（LLM）路線へと導く鍵的人物であり、率いるチームはGPT-2およびGPT-3の開発にも携わった。

研究が進むにつれ、アモデイ氏はより大規模なモデルがAGI（汎用人工知能）につながると確信するようになった。しかし同時に、同社経営陣への信頼は徐々に失われていった。

彼が不快に感じた最初の出来事の一つは2017年のことだった。

当時、マスク氏によるOpenAIへの資金支援が弱まり始め、研究所は新たな道を模索する必要に迫られていた。共同創業者のグレッグ・ブロックマン氏とチーフサイエンティストのイリヤ・スツケバー氏は、後に「国家計画」と呼ばれる内部構想を提示した。

この構想は当初、各国がAGIのリスク管理と恩恵享受を共同で行う国際連合体を想定するなど、まっとうなものだった。

しかし、ブロックマン氏とスツケバー氏が社内ミーティングで正式にこれを発表した段階では、完全に暴走していた——米国、中国、ロシアなどの各国政府に対し、AGI技術の将来利用権を「オークション」で売却する資金調達キャンペーンへと変質していたのだ。

両氏の論理はこうだ。「AGIは国家安全保障に関わるため、いずれ政府が開発企業から強制的に接収するだろう。ならば、現時点で資金難の会社が、その権利を高値で売却するのは当然だ」。

このプレゼンテーションを聞いた関係者は、「まるで技術者が狂気じみたスタートアップを売り込むようだった。最後には『費用は政府が負担すればいい』とだけ言い放った」と苦言を呈した。

当時アモデイ氏はOpenAIの研究副社長だったが、これを聞いた後、ブロックマン氏、スツケバー氏ら幹部に直接メールを送り、率直に反論した。メールでは、この計画は「軍拡競争を助長し、人権侵害を招き、自国民に対して言語道断の行為を許すものであり、OpenAIの道義的正当性を損なう」と厳しく批判している。

要するに——「人類最強の技術を、各国に売り渡そうというのか？ お前たちは正気なのか？」

幸い、その後マイクロソフトの大規模投資が入り、この計画は実現しなかった。OpenAIは「一時期、国際協同組織への転換を検討したが、中国やロシアへのAGI売却は一切検討していない」と公式に説明している。

この計画は最終的に実現しなかったが、アモデイは経営陣が自身にとって極めて不快なアイデアを真剣に検討していたことを決して忘れないでいた。

マイクロソフトからカニエへ――信頼の亀裂がさらに深まる

その後、一見些細な問題が次々と発生し、彼の不信感をさらに深めていった。

GPT-3の非公開ベータ期間中、アモデイはアルトマンに対し、モデル利用が承認された顧客リストの提出を要請した。アルトマンは一つのリストを提示したが、アモデイは後に別の、より長いリストを発見したと主張した。彼は自分が閲覧した情報がすでにフィルタリングされていたのではないかと疑い始めた。

また、マイクロソフト投資をめぐる対立も、彼の懸念を一層強めた。

OpenAIの公式憲章には極めて特異な条項が盛り込まれている：価値観・安全性重視のプロジェクトがAGI実現に最も近づいた場合、OpenAIは競争をやめ、そのプロジェクトを支援する。つまり、特定の状況下では、会社のミッションが「レースに勝つ」ことよりも優先されるべきである。

ルース氏の新刊によると、マイクロソフトとの10億ドル投資交渉において、アモデイはこのコミットメント遂行のための買収条項をマイクロソフトが受け入れることを確実にしようとしていた。アルトマンは、マイクロソフトは関連条項を認めないと伝えた。

アモデイは、それが単純な話だとは信じなかった。彼は、アルトマンが迅速な合意成立を急ぎ、この条件の押し付けをあきらめたか、そもそも要求すらしなかった可能性を疑い、責任をマイクロソフトに転嫁したと考えた。

アモデイにとって、この問題はビジネス上の協議で解決しづらくなってきていた：目の前のアルトマンが、交渉の全容を正直に語るつもりがあるのかどうか、彼はすでに疑い始めていた。

2020年、後にヒトラーを公然と賞賛することになるラッパー、カニエ・ウェストが、この拡大中の不満リストに予期せず名を連ねることになった。

事情に詳しい複数の関係者を引用し、ルース氏はカニエとの面会後、アルトマンが彼をGPT-3非公開ベータに参加させる提案をしたと報じている。

当時、GPT-3はまだ一般公開されておらず、OpenAIの最重要コア資産だった。当時の政策部門責任者ジャック・クラーク氏が介入し、この提案を阻止。カニエが直前にグラミー賞に小便をかける動画を投稿していたこと、およびその公的な言動が懸念される点を指摘した。その後間もなく、カニエはヒトラーを公然と賞賛し始めた。

招待は結局実現しなかったが、これによりアモデイのアルトマンへの判断力に対する不満はさらに深まった。ルース氏は、個別にはこうした出来事の多くが退職の決定的要因にはならなかっただろうが、累積すると、AGIという極めて強力な技術を操る人物としてアルトマンが適任かどうかを信じられなくなりつつあったと記している。

ルース氏は著書で、2020年までにはアモデイがOpenAI経営陣に対して完全に幻滅していたと明かしている。彼はアルトマンを「二-facedな操り人形」と呼び、ブロックマンを「権力欲深く無謀な人物」と評した。

実際、両者の根本的な対立は、たった二つの言葉——「信頼」に集約される。

報道によると、アモデイはOpenAI在籍中、アルトマンが自分を誤導したと感じた瞬間を記録するための私的なノートを常に携帯していた。

そのノートの一つには、「OpenAIの問題はサム本人だ」と記されていた。

派閥や小グループの形成？

一方、OpenAI内部でも、アモデイに対する不満が高まっていた。

ルース氏の取材によると、アモデイと妹ダニエラは次第に志を同じくする同僚たちを巻き込み、非公開チャットチャンネルを設け、別途会議を開き、安全性に関する議論を頻繁に行っていた。このグループの外側にいる一部の従業員からは、彼らと共同作業することが次第に困難になっていった。

元同僚の1人はルース氏に、アモデイ氏がしばしば特定の選択肢を「道徳的に正しい」と断定し、安全性を口にするだけで議論を終えようとする様子を訴えた。これにより、他のチームは激しく憤慨した。

アモデイ氏は、商業的目標が常に安全性への約束を上書きすると感じていた。一方で、一部の同僚は、彼が安全性を反論不能な根拠に変えてしまったと感じていた。こうした相互の不満は、具体的な意思決定から、仕事のスタイルや人物評価へと広がっていった。

最終的に、この対立は1つの具体的な権限——安全性チームが新製品のリリースを拒否できるか——に集中した。

ルース氏によると、退職前にアモデイ氏はアルトマン氏に対し、安全性チームにその拒否権を与えることを含む留任条件を提示した。彼は、主要な研究者が一斉に離脱するというプレッシャーによって、アルトマン氏が変革を受け入れるよう促そうとしていた。

秘密のグループチャットで、「分裂」までのカウントダウンが始まる

その一方で、交渉が進行中であったにもかかわらず、すでに離脱ルートが準備されていた。

アモデイ氏と6人の同僚は、「BATNA（交渉による合意に代わる最善の代替案）」と名付けられた非公開Slackチャンネルを設置した。メンバーには彼の姉ダニエラ氏、ジャック・クラーク氏、サム・マキャンディッシュ氏、トム・ブラウン氏、クリス・オーラ氏、ジェレッド・カプラン氏が含まれていた。

グループ名そのものが状況を如実に表していた——交渉は続いているが、すでに離脱の準備は万全だったのだ。

留任条件の合意が得られなくなると、双方は弁護士を招き、「離婚」と内部で呼ばれる交渉を開始した。

ルース氏の報道によると、アルトマン氏はこのグループに対し、数週間のOpenAI社員採用期間を認める代わりに、その後1年間は誰も引き抜かないとの約束を取り付けた。また、両者は公の場で互いを中傷しないことでも合意した。

2020年12月、OpenAIは全社オンライン会議を開催した。

当初はいつもの会議と変わりなかった。アルトマン氏が研究進捗を報告し、新入社員を紹介した後、司会をアモデイ氏に譲った。

次にアモデイ氏は、自身を含む6人のリーダーがAI安全性に特化した新組織を設立するために退職すると発表した。

ルース氏の描写によると、チャット欄は直ちに驚きのメッセージや絵文字で溢れた。会議終了間際、ジャック・クラーク氏がチャットに「みんなを愛してる」と打ち込み、画面は突然真っ黒になった。

ダリオ・アモデイ氏と姉ダニエラ・アモデイ氏を含むOpenAIの中心メンバー7人が、同時に会議から退出させられ、メールおよびSlackへのアクセスも即座に停止された。

その後、2021年初頭にAnthropicが設立された。

恨みはいつまで続くのか？

しかし、ゼロから立ち上げたからといって、かつてアモデイ氏を悩ませた問題から解放されたわけではない。

Anthropicも資金調達や計算資源の拡充、より強力なモデル開発を迫られる。最先端リスクを研究するには、最先端技術を習得するしかないが、その先端に立ち続けるためには継続的な投資と競合他社の接近への対応が必要となる。会社が成長するにつれ、アモデイ氏は再び同じ問いに直面することになる——安全性・事業・競争が衝突したとき、どれが優先されるのか？

両者の相互の怨嗟は、少しも薄れていない。

事情に詳しい関係者によると、アモデイ氏はかつてアルトマン氏とOpenAIを「悪」と表現したという。一方、OpenAI内部には、アモデイ兄妹が道徳的完璧主義者を装いながら、実際は権力欲に駆られていたとの不満もあった。特に腹立たしかったのは、アンソロピックがAIリスクを公に警告する一方で、競争への参入を加速させている点だった。

本書においてルース氏は、こうしたAI指導者たちを「敵意で絡み合った蜘蛛の巣」と描写している：ハサビス氏はアルトマン氏を見下し、アモデイ氏もアルトマン氏を見下し、アルトマン氏はアモデイ氏を見下し、さらにアルトマン氏はマスク氏も見下している。

数年経った今、この複雑な関係網は解けておらず、むしろ各自新たな課題を抱えている。ブルームバーグによると、アンソロピックは11月中旬にも上場を目指しており、時価総額は最大2兆ドルとされるが、その公開資料には別の側面も記載されている：2025年の売上高は約46億ドルだが、営業損失は80億ドルを超えるほか、今後5000億ドル以上のコンピューティング投資を約束している。一方アルトマン氏はIPOに慎重姿勢を示し、「安全性とアライメントが確立されるまでは急ぐ必要はない」と述べているが、OpenAIも最近、AI安全性に関する事故に悩まされている。

当時アモデイ氏が離脱したのは、アルトマン氏を信用できず、安全性の約束が真に重視される企業を創りたかったためだった。しかし今や自社も同様のジレンマに直面している：成長の持続可能性と安全性への懸念——どちらも緩められない。この問いに対し、両者ともまだ明確な答えを出していない。