Всего через четыре месяца после присоединения команда Сун Сяодуна якобы рассталась с Meta из-за несовместимости стилей работы

Оригинальный материал: «Машинное сердце»

Набор в июне, а слухи о расставании — в октябре?

Сообщается, что команда Virtue AI под руководством профессора кафедры компьютерных наук Калифорнийского университета в Беркли Дон Сон столкнулась с трудностями при сотрудничестве с Meta из-за «несовместимости стилей работы».

Дон Сон высоко ценится как в академической среде, так и в индустрии и считается одной из самых влиятельных исследовательниц в областях компьютерной безопасности и безопасности ИИ. Её работа 2005 года «Динамический анализ заражения» считается классикой в области компьютерной безопасности.

Согласно рейтингу AMiner, она — самый цитируемый учёный мира в области компьютерной безопасности. Её лаборатория в Беркли известна как школа подготовки ведущих специалистов по компьютерной безопасности.

Помимо должности профессора, Дон Сон является также соучредителем Oasis Labs и Virtue AI. Согласно официальному сайту Virtue AI, их работа включает моделирование атак, выявление уязвимостей в ИИ и обеспечение защиты в ходе эксплуатации систем — реализацию правил безопасности и управления. Проще говоря, они помогают ИИ проходить «проверку на безопасность» и устанавливают «ограничения» во время работы.

В июне этого года Дон Сон объявила в соцсетях о присоединении к лабораториям Superintelligence Labs компании Meta. Сообщалось, что ещё два соучредителя Virtue AI — Бо Ли и Санми Койеджо — вместе с другими сотрудниками команды также присоединились. Такой набор позволил Meta привлечь независимую команду, не приобретая всю компанию.

Для команды Virtue AI присоединение к Meta было привлекательным, поскольку они уже проводили тестирование безопасности ИИ, «красные команды» и защиту после запуска для клиентов, но как стартап имели ограниченные ресурсы. В Meta они могли напрямую применять эти компетенции к продуктам, используемым миллиардами пользователей, превратившись из «инструментов безопасности» в базовую инфраструктуру безопасности крупной платформы.

В то же время Meta нуждалась в них: компания активно развивает ИИ-агентов и сверхразум. По мере развития растут опасения по поводу неконтролируемого поведения моделей, утечек данных и манипуляций злонамеренными инструкциями. Поэтому требовалась оперативная поддержка топовой команды, обладающей научными знаниями и практическим опытом внедрения мер безопасности, чтобы гарантировать безопасность, надёжность и управляемость ИИ.

Всё это выглядело вполне логично, однако недавно зарубежное издание Semafor сообщило, что «пресс-секретарь Meta Энди Стоун сообщил Semafor о сокращении группы сотрудников, набранных из стартапа Virtue AI в сфере безопасности ИИ, которые работали в компании всего четыре месяца — с июня».

Почему всё развивалось так стремительно? Meta объяснила это «несовместимостью стилей работы» и тем, что сотрудничество не развивалось так, как ожидалось. При этом Meta заявила, что лаборатории Superintelligence Labs продолжат фокусироваться на безопасности ИИ, согласованности и рисках переднего края. Разумеется, это лишь официальная позиция компании, а конкретные разногласия не раскрываются.

Кроме того, в отчёте не подтверждается, полностью ли Дон Сон и другие покинули компанию, а команда на момент публикации не ответила.

Однако настоящий вопрос, оставшийся после изменения формата сотрудничества, по-прежнему заслуживает обсуждения: как обеспечить выдающимся исследователям возможность влиять на организацию после их привлечения?

Исследование MIT Sloan (2019 г.) показало, что в первый год после приобретения компании 33 % сотрудников приобретённых стартапов ушли, тогда как среди штатных сотрудников со схожими навыками и опытом — лишь 12 %. Хотя эти показатели со временем выравниваются, в течение трёхлетнего периода, изученного в исследовании, сотрудники приобретённых компаний уходили на 15 % чаще, чем новые наймы.

В статье отмечается, что высокая текучесть приобретённых сотрудников в первую очередь вызвана «организационным несоответствием»: изначально они присоединялись к стартапам ради предпринимательской атмосферы, автономии, гибкости и готовности рисковать, но после приобретения крупной компанией сталкиваются с более бюрократичными процессами и формальной корпоративной культурой, что напрямую противоречит их предпочтениям. Кроме того, приобретённые сотрудники обычно не могут выбирать покупателя и не участвуют в организационных изменениях после сделки, что усиливает их дискомфорт. В сочетании со склонностью начинать всё с нуля они чаще уходят — даже создавая конкурирующие компании.

Возвращаясь к инциденту с Meta, объяснение «несовместимости рабочих стилей» многим кажется явно недостаточным. Что касается глубоких разногласий между сторонами, пояснения ждут от Virtue AI.