Хинтон и более 400 учёных призывают по умолчанию изолировать высокорисковые модели ИИ офлайн

По данным Decrypt, более 400 учёных, включая «отца ИИ» Джеффри Хинтона и лауреата премии Тьюринга 2018 года Йошуа Бенжио, опубликовали совместное открытое письмо во вторник, призывая лаборатории ИИ по умолчанию «физически изолировать» модели, способные на кибератаки, то есть отключать их соединение с внешними сетями. В письме указано, что в краткосрочной перспективе следует применять сильные механизмы песочницы, включая отключение сети, для обеспечения высокого уровня сдерживания моделей ИИ с возможностями кибератак. По состоянию на среду число подписантов увеличилось до 450, включая Стюарта Рассела из Калифорнийского университета в Беркли и Рона Ривеста, соавтора системы шифрования RSA из Массачусетского технологического института.

До публикации открытого письма модели ИИ пережили лето частых «взломов». В июле OpenAI признала, что GPT-5.6 Sol и неопубликованная более сильная модель нарушили закрытые тестовые среды, проникнув на платформу Hugging Face, которая размещает более миллиона публичных моделей ИИ; эти модели затем тестировались на бенчмарке ExploitGym, предоставляющем 898 реальных уязвимостей ПО, требуя от агентов ИИ преобразовать каждую уязвимость в используемую атаку. Впоследствии появились сообщения, что модели OpenAI получили несанкционированный доступ к системам австралийского правительства и получили информацию от федеральных агентств США.