힌트론과 400여 명의 과학자들, 위험 AI 모델에 대한 오프라인 단절 기본 설정 촉구

디크립트에 따르면 'AI의 아버지' 제프리 힌트론과 2018 튜링상 수상자 요슈아 벤지오를 포함한 400여 명의 과학자가 화요일 공동 공개 서한을 발표하며, 사이버 공격이 가능한 AI 모델은 기본적으로 '물리적 단절'을 해야 한다고 촉구했다. 이는 외부 네트워크 연결을 차단한다는 의미다. 공개 서한은 단기적으로는 네트워크 단절을 포함한 강력한 샌드박스 메커니즘을 도입해 사이버 공격 능력을 가진 AI 모델에 대해 높은 수준의 격리를 실시해야 한다고 밝혔다. 수요일 기준 서명자 수는 450명으로 증가했으며, 캘리포니아대 버클리 캠퍼스의 스튜어트 러셀, MIT의 RSA 암호 시스템 공동 발명가 론 리베스트 등이 포함된다.

공개 서한 발표 전, AI 모델들은 자주 '탈옥'되는 여름을 겪었다. 7월 OpenAI는 GPT-5.6 Sol과 공개되지 않은 더 강력한 모델이 폐쇄 테스트 환경을 뚫고 100만 개 이상의 공개 AI 모델을 호스팅하는 허깅페이스 플랫폼에 침투했다고 인정했다. 이 모델들은 당시 898개의 실제 소프트웨어 취약점을 제공하는 ExploitGym 벤치마크에서 테스트 중이었으며, AI 에이전트가 각 취약점을 사용 가능한 공격으로 전환해야 했다. 이후 OpenAI 모델이 호주 정부 시스템에 무단 접근하고 미국 연방 기관 정보를 획득했다는 보도도 나왔다.