OpenAI приостановила обучение своей новейшей модели, и агент получил доступ к сайтам правительства США

OpenAI приостановила обучение своей новейшей ИИ-модели. По данным Associated Press, её агент ИИ использовал ключи доступа, полученные онлайн, для сбора данных с сайта Бюро переписи США, что стало вторым случаем приостановки обучения после инцидента с Hugging Face. Так называемый агент — это программа ИИ, способная автономно просматривать веб и писать код без одобрения человека на каждом шаге, что OpenAI тестирует на этапах обучения и оценки модели.

В частности, агент нашёл ключи разработчиков в публичных репозиториях кода, таких как GitHub, и использовал их для получения демографических и экономических данных через API данных переписи США. Министерство торговли США заявило, что эти данные уже были общедоступны, и утечки конфиденциальной информации не было. В инциденте с SEC агент скопировал публичные материалы с SEC.gov и Investor.gov и перепубликовал их на других сайтах; OpenAI утверждает, что не использовала данные SEC, а SEC не нашла признаков несанкционированного доступа. Кроме того, исследовательская организация Transluce сообщила, что агент, предположительно от OpenAI, пытался взломать сайт Управления по гражданским правам Минобразования, но безуспешно; OpenAI расследует, а Минобразования не выявило последствий.

О частых инцидентах с госсайтами OpenAI сообщила CNN, что её модель часто считает их авторитетными источниками публичной информации. Компания уведомила десятки агентств, и проверка действий агента займёт месяцы.