Оригинальное название: «The Decadelong Feud Shaping the Future of AI»
Оригинальный автор: Keach Hagey
Журналист The Wall Street Journal Китч Хейги опубликовал обширное расследование, основанное на многочисленных интервью с действующими и бывшими сотрудниками обеих компаний, а также с людьми из окружения их руководства, впервые систематически раскрывая личную вражду между основателями Anthropic и OpenAI, длящуюся уже десять лет. Формирование глобального ландшафта ИИ определяется не только борьбой технологических подходов, но и незажившей личной травмой.
Внутренние формулировки Дарио Амодеи в последние месяцы были гораздо резче, чем публичные. Он сравнил судебный спор Сэма Олтмана с Илоном Маском с «борьбой Гитлера со Сталиным», назвал пожертвование в 25 миллионов долларов президентом OpenAI Грегом Брокманом супер-ПК, поддерживающему Трампа, «злом» (evil), а OpenAI и других конкурентов — «табачными компаниями, которые продают продукт, зная о его вреде».
После эскалации спора с Пентагоном он написал в Slack, что OpenAI «лицемерна» (mendacious), добавив: «Эти факты указывают на модель поведения, которую я неоднократно наблюдал у Сэма Олтмана».
Внутри Anthropic эту брендовую стратегию называют созданием «здоровой альтернативы» (healthy alternative) конкурентам. Её публичным проявлением стала реклама во время Супербоула в этом году, которая, не называя имён, высмеивала OpenAI за встраивание рекламы в чат-бот.
История началась в гостиной съёмного дома на улице Делано в Сан-Франциско в 2016 году. Здесь жили Дарио и его сестра Даниэла Амодеи. Сооснователь OpenAI Брокман часто заходил в гости из-за личной дружбы с Даниэлой. Однажды Брокман, Дарио и тогдашний жених Даниэлы, филантроп движения эффективного альтруизма Холден Карнофски, сидели вместе, споря о правильном пути развития ИИ: Брокман считал, что нужно информировать всех американцев о том, что происходит на переднем крае ИИ, тогда как Дарио и Карнофски полагали, что чувствительную информацию следует сначала сообщать правительству, а не транслировать публично. Это разногласие впоследствии стало водоразделом философских подходов двух компаний.
Впечатлённый кадровым составом OpenAI, Дарио присоединился к компании в середине 2016 года, засиживаясь с Брокманом допоздна, обучая ИИ-агентов играть в видеоигры. Однако за четыре года совместной работы противоречия вокруг власти и чувства принадлежности только углублялись. В 2017 году, когда Маск, основной инвестор OpenAI на тот момент, потребовал перечислить вклад каждого сотрудника и уволить на этой основе, около 10–20% команды из примерно 60 человек были уволены поодиночке. Дарио счёл это жестоким; среди уволенных был один человек, который позже стал сооснователем Anthropic.
В том же году приглашённый Дарио этический консультант предложил, чтобы OpenAI выступала в роли координирующего органа между ИИ-компаниями и правительством. Брокман развил эту идею до концепции «продажи ИИСИ (ОИИ) ядерным державам в Совете Безопасности ООН». Дарио счёл это почти государственной изменой и даже подумывал об уходе.
В 2018 году, после ухода Маска, руководство взял на себя Олтман. Он и Дарио пришли к согласию: сотрудники не доверяли руководству Брокмана и главного научного сотрудника Ильи Суцкевера. Дарио согласился остаться при условии, что эти двое больше не будут его начальниками, но вскоре обнаружил, что Олтман одновременно дал тем двоим обещание, что они имеют право его уволить, — два обещания противоречили друг другу.
После запуска разработки серии GPT среди руководства вспыхнул самый острый конфликт вокруг того, кто может участвовать в проекте языковой модели. Дарио, тогдашний директор по исследованиям, не позволял Брокману вмешиваться. Даниэла, совместно с Алеком Рэдфордом руководившая проектом, пригрозила уйти с поста руководителя. Личные предпочтения Рэдфорда оказались втянуты в войну заместителей между топ-менеджерами.
Статус Дарио вырос с успехом GPT-2 и GPT-3, но он чувствовал, что Олтман приуменьшает его вклад. Дарио разозлился, когда Брокман выступил в подкасте, обсуждая устав OpenAI, — ведь его собственный вклад в устав был больше, но его не пригласили. Он также был недоволен, узнав, что Брокман и Олтман собираются встретиться с бывшим президентом Обамой, исключив его.
Противоречия окончательно обострились во время конфронтации в переговорной. Олтман вызвал брата и сестру Амодеи в переговорную и обвинил их в том, что они подстрекали коллег подавать в совет директоров негативные отзывы о нём. Они отрицали это. Олтман сказал, что информация поступила от другого руководителя. Даниэла немедленно вызвала того руководителя на очную ставку, и тот заявил, что ничего об этом не знает.
Олтман тут же отказался от своих слов, и стороны вступили в ожесточённый спор. В начале 2020 года Олтман потребовал от руководителей написать взаимные коллегиальные оценки. Брокман написал жёсткий отзыв, обвиняя Даниэлу в злоупотреблении властью и использовании бюрократических процедур для исключения инакомыслящих. Олтман предварительно просмотрел его и оценил как «жёсткий, но справедливый». Даниэла оспорила его пункт за пунктом, спор обострился, и Брокман в какой-то момент предложил отозвать свой отзыв.
В конце 2020 года команда во главе с Дарио решила уйти, и Даниэла вела переговоры с юристами об условиях ухода. Олтман лично приехал домой к Дарио, чтобы уговорить его остаться. Дарио выдвинул условие — подчиняться только непосредственно совету директоров и чётко заявил, что не может работать с Брокманом. Перед уходом он написал длинный меморандум, разделив ИИ-компании на две категории: «рыночные» и «общественно-полезные», считая идеальным соотношение 75% общественной пользы и 25% рынка. Несколько недель спустя Дарио, Даниэла и почти дюжина сотрудников покинули OpenAI и основали Anthropic.
Пять лет спустя капитализация обеих компаний превышает 300 миллиардов долларов, и они соревнуются за право первыми провести IPO. В феврале этого года на групповой фотографии по окончании саммита по ИИ в Нью-Дели премьер-министр Индии Моди и присутствовавшие технологические лидеры подняли руки вверх. Амодеи и Олтман предпочли не участвовать, лишь неловко коснувшись локтями.
