Оригинальный заголовок: «Джensen Хуан поворачивает налево, Амодей — направо». Оригинальный автор: Су Ян, Tencent Technology

Должен ли передовой ИИ продолжать ускоряться или затормозить — главный спор в Кремниевой долине сегодня.

Вокруг этого спора гиганты Кремниевой долины начали занимать позиции. Амодей, Олтман, Маск и Хассабис образовали «лагерь замедления». Джensen Хуан — решительный «ускоритель», критикующий «апокалиптический ИИ» как не имеющий научной основы; Ян ЛеКун неоднократно высмеивал Амодея: «Ещё в OpenAI он считал GPT-2 слишком опасным для открытого распространения. Я тогда его высмеял, и теперь все могут продолжить».

В отличие от них Цукерберг и Наделла заняли относительно нейтральную позицию.

Разделение гигантов означает отсутствие консенсуса в Кремниевой долине по паузе в разработке передовых моделей. Это связано с различными нишами компаний в цепочке создания стоимости ИИ. Лидеры уровня моделей могут призывать к паузе по разным причинам, но добиться согласия от Oracle, AWS — с сотнями миллиардов долларов заказов на вычисления — и Nvidia, стоящей во главе пищевой цепочки, невозможно.

В Вашингтоне призыв «остановиться» не только не получил поддержки, но и вызвал ряд сомнений.

«Это немного похоже на троянского коня», — заявил Дж. Д. Вэнс в интервью. Эта фраза отражает реальное отношение Вашингтона: когда компании, строящие троянского коня, просят сузить ворота, стоит задаться вопросом, кому эти ворота на самом деле выгодны.

01 Пауза, предупреждение и заявление об уходе

Поводом для дебатов стало увольнение исследователя Anthropic Джейкоба Коксона.

Ранее он три года занимался дотренировкой моделей в OpenAI и Anthropic, лично участвуя в обучении самых передовых моделей. В длинном посте в X он почти без предисловий написал: «Ни одна из компаний не действует ответственно. Они стремительно движутся к самосовершенствующемуся сверхразуму, ставя на кон наши жизни».

Он прямо заявил, что внутри лабораторий действительно верят: ИИ может уничтожить всех людей в течение десяти лет — и это отнюдь не пиар-ход. Многие коллеги уже называют текущую фазу «критическим моментом» и «финальной стадией». Коксон даже отказался от опционов, готовых к исполнению. Он проработал в Anthropic всего четыре месяца, а по правилам компании для исполнения опционов требуется шесть месяцев.

Бывший исследователь Anthropic Джейкоб Коксон

Вскоре глава отдела выравнивания Anthropic Эван Хубингер публично ответил: «Джейкоб прав — мы действительно верим, что ИИ может уничтожить человечество. По моей оценке, вероятность этого за 10 лет превышает 10%. Anthropic пытается, но у нас пока нет чёткого плана выравнивания сверхразума, и мы сильно отстаём от графика».

Эти два заявления вывели наружу опасения, ранее зрели лишь внутри лабораторий. На этом фоне основатель и CEO Anthropic Амодей опубликовал развёрнутую статью, системно предложив идею «замедления передовых исследований». Он больше не ограничивался призывами «инвестировать в безопасность», а прямо потребовал контролировать темпы роста возможностей, чтобы механизмы безопасности успели догнать развитие.

Олтман, Маск и Хассабис быстро публично поддержали его, сформировав «лагерь паузы».

До заявлений Коксона и Амодея «отцы-основатели ИИ» Йошуа Бенжио и Джеффри Хинтон уже неоднократно обращали внимание на риски.

Говоря об отставке Коксона, Бенжио отметил, что учёные из передовых ИИ-лабораторий зачастую видят возможности последних моделей раньше публики, поэтому их оценки рисков заслуживают серьёзного внимания.

В то же время Бенжио привёл конкретные примеры: современные ИИ-системы уже обладают возможностями взлома и убеждения, и при использовании во вред человеческим интересам могут привести к серьёзным последствиям. Его также беспокоит, что по мере расширения горизонта планирования ИИ такие риски могут ещё больше возрасти.

На вопрос Би-би-си о том, превышает ли вероятность того, что ИИ «уничтожит всех людей» в ближайшее десятилетие 10 %, Джеффри Хинтон ответил, что эта цифра «не является неразумной», но подчеркнул, что никто не может дать надёжную оценку, поскольку человечество никогда ранее не сталкивалось с «существованием вида, который вскоре станет умнее нас».

Хинтон считает, что в будущем ИИ может быть использован для проектирования опасных биологических и компьютерных вирусов, а также для запуска масштабных кибератак. Поэтому человечеству необходимо найти эффективные методы контроля до того, как риски выйдут из-под контроля.

В отличие от сторонников новой волны «теории паузы» в Силиконовой долине, «отцы-основатели ИИ» скорее стремятся привлечь внимание к рискам и изучить механизмы их сдерживания, а не просто резко замедлить развитие. Кроме того, позиции академии, как правило, чище мотивированы, тогда как инициативы передовых лабораторий, даже если они открыто заявлены «во благо человечества», всё же трудно полностью отделить от коммерческих соображений.

Именно поэтому Дж. Д. Вэнс назвал «теорию паузы» троянским конём.

02 Раскол и выбор стороны

Лагеря «акселерационистов», «децелерационистов» и «умеренных». Источник: The New York Times

15 сентября руководители нескольких технологических компаний последовательно выступили на конференции Salesforce Dreamforce, и этот спор начал превращаться в более прямое противостояние позиций.

В тот день Амодей, Цзэньсюнь Хуан и Олтман говорили об ИИ-безопасности, но дали разные ответы относительно темпов развития, ответственности за безопасность и действий компаний.

Выступая вместе с генеральным директором Salesforce Марком Бениоффом, Амодей вновь подчеркнул, что компании, разрабатывающие ИИ, должны устанавливать более высокие стандарты безопасности собственными действиями. По его мнению, добровольное внедрение строгих мер безопасности компаниями может стать способом продвижения всей отрасли вперёд.

Другими словами, позиция Амодея начала смещаться — от призыва ко всему сообществу замедлиться к самостоятельной установке компаниями «защитных барьеров».

Цзэньсюнь Хуан заявил: «Новые законы не нужны, новые правила не нужны». По его мнению, скорость и безопасность — не взаимоисключающие понятия, и компании могут максимально быстро развивать модели; если же выясняется, что ситуация выходит из-под контроля или продукт не гарантирует безопасность, следует остановиться и решить проблему.

Позиция Бениоффа была более открытой и делала акцент на автономии. Он заявил, что если компания считает необходимым замедлиться — пусть замедляется; если считает нужным ускориться — пусть ускоряется, но при этом должна нести ответственность за собственные решения.

Основатель и генеральный директор OpenAI Сэм Олтман на мероприятии Dreamforce заявил, что он весьма уверен в способности OpenAI и всей ИИ-индустрии развиваться безопасно, не причиняя обществу серьёзного вреда. Он также выразил разочарование тем, что внешние наблюдатели истолковали его позицию как поддержку замедления развития ИИ в целом.

То есть Олтман также сместился в своей позиции, подчеркнув, что он хотел сказать не призыв к замедлению индустрии, а необходимость обеспечения безопасности и мониторинга до повышения возможностей моделей.

В отличие от них, Цукерберг не считает, что безопасность одной компании должна зависеть от обязательного одновременного замедления других ИИ-компаний. Он полагает, что создание независимых оценочных организаций и привлечение внешних экспертов для тестирования безопасности моделей — это лучшая отраслевая практика. Он также сообщил, что Meta самостоятельно замедлила разработку ИИ-инструмента Muse, не дожидаясь согласия других компаний по поводу замедления ИИ-развития.

Позиция генерального директора Microsoft Сатьи Наделлы частично совпадает с позицией Олтмана: он выступает за добавление «барьеров» и одновременно за полноценную конкуренцию.

«Первое, что нам нужно сделать, — служить человечеству и гарантировать, что технологии остаются под контролем человека. В то же время важнейшее значение имеет широкое распространение ИИ-технологий — должны быть выбор и конкуренция. Безопасность должна восприниматься всерьёз, но решаться через инженерные подходы и прозрачность, а не путём её мистификации», — сказал Наделла 15 сентября на саммите All-In Summit 2026.

Помимо этих предпринимателей, к дискуссии присоединились голоса из Вашингтона.

После того как Трамп напрямую связался с Цзэньсеном Хуаном и публично выразил поддержку дальнейшему развитию индустрии ИИ, Дэвид Сакс, сопредседатель Совета научных консультантов президента по науке и технологиям, заявил, что технологические компании могут продолжать продвигать передовые ИИ-системы, одновременно ставя под сомнение мотивы аргументов о «замедлении», выдвинутых некоторыми компаниями.

03 Кто устанавливает правила?

По мере расширения дискуссии спор вышел за рамки рисков ИИ и перешёл к вопросу: должны ли стандарты безопасности для передовых ИИ-систем разрабатываться самими компаниями или требуют вмешательства государства и независимых институтов.

Bloomberg со ссылкой на осведомлённых лиц сообщил, что Anthropic, Google и OpenAI ранее обсуждали создание отраслевого органа по стандартизации ИИ.

В июле Хассабис опубликовал статью с предложением учредить возглавляемое США агентство по стандартам ИИ, работающее по аналогии с Финансовым регуляторным органом индустрии (FINRA). Это агентство могло бы тестировать передовые ИИ-модели до их официального внедрения, чтобы проверить соответствие установленным стандартам безопасности.

Согласно видению Хассабиса, это агентство не должно быть полностью государственным, а функционировать по модели государственно-частного партнёрства: государство играет надзорную роль, индустрия ИИ обеспечивает финансирование, а в работе участвуют независимые ведущие технические эксперты и представители сообщества открытого ПО.

Хассабис стремился ввести независимую проверку безопасности перед запуском моделей в реальный мир — это тесно согласуется с регуляторной логикой, объявленной правительством США в начале июня: компании могут добровольно направлять свои модели на государственную оценку до публичного выпуска в течение окна доступа до 30 дней до релиза, при этом чётко указано — без обязательного одобрения и без лицензирования на выпуск.

Особенно драматично то, что при запуске Fable 5 и Mythos 5 этот процесс проигнорировали: выяснилось, что модели обладают исключительно высокими возможностями в сфере кибератак и защиты, и в итоге Бюро промышленности и безопасности США (BIS) временно отозвало их через экспортные ограничения.

Тем не менее политическая позиция лишь призывает усилить защитные механизмы, но не содержит никаких заявлений или указаний о замедлении темпов.

Схожую с Хассабисом позицию занимает главный учёный OpenAI Якуб Пахоцкий. В начале сентября он также подчеркнул, что приоритетом сейчас должно стать совместное использование стандартов безопасности и международная координация в области дальнейшего развития ИИ.

04 Никто по-настоящему не тормозит

До сих пор эта дискуссия не изменила реальных темпов разработки в компаниях, создающих передовые ИИ-системы.

Такие компании, как Anthropic, OpenAI, Google и xAI, продолжают активно развивать свои модели; конкуренция за вычислительные мощности, центры обработки данных и ИИ-инфраструктуру не ослабевает. На фондовом рынке, однако, наблюдаются различия: Anthropic готовится к IPO в этом году, тогда как OpenAI перенесла свой план IPO на 2027 год.

Амодей хочет заставить всю отрасль остановиться и присоединиться к Anthropic в поиске решений по внедрению защитных механизмов против выхода возможностей моделей за допустимые границы — что в определённой степени можно назвать «щедростью за чужой счёт».

Именно поэтому Амодея называют «притворяющимся безупречным ангелочком».

Что касается управления рисками, точка зрения Цзэньсена Хуана ближе к реальной ситуации: если у компаний возникают опасения или выявляются проблемы, они могут самостоятельно искать решения и делиться эффективными результатами с отраслью.

Требовать от команды из 100 и из 1000 человек одновременной остановки вообще лишено оснований для достижения консенсуса. Сам Амодей прекрасно понимает: если остановится только он, его почти наверняка обойдут такие конкуренты, как OpenAI.

Более важно, что различаются корпоративные модели управления. Anthropic и OpenAI — компании общественной пользы (PBC), поэтому они могут призывать «жертвовать краткосрочными финансовыми интересами ради будущего человечества» и говорить инвесторам: «Мы давно достигли по этому поводу консенсуса». А у публичных компаний — Google, Microsoft и Meta — руководство обязано по закону действовать в интересах акционеров вторичного рынка.

У компаний с такими разными интересами шансы достичь согласия по данному вопросу невелики.

Есть ещё один нюанс, который могут упустить из виду: до появления теории «паузы» Anthropic и OpenAI последовательно выпустили свои самые мощные модели — Fable 5.1 и GPT-6 Astra соответственно.

На фоне многочисленных призывов другие компании всё ещё выпустят свои новые модели?

Оригинальная ссылка