ヒントンら400人超の科学者が、高リスクAIモデルのデフォルトオフライン隔離を要求

Decryptによると、「AIの父」ジェフリー・ヒントンと2018年チューリング賞受賞者ヨシュア・ベンジオを含む400人超の科学者が火曜日に共同公開書簡を発表し、サイバー攻撃が可能なモデルを「物理的に隔離」するようAI研究所に要求した。これは外部ネットワークとの接続を遮断することを意味する。公開書簡は、短期的にはネットワーク切断を含む強力なサンドボックス機構を採用し、サイバー攻撃能力を持つAIモデルに対して高度な封じ込めを実施すべきだと述べた。水曜日までに署名者は450人に増え、カリフォルニア大学バークレー校のスチュアート・ラッセルやマサチューセッツ工科大学のRSA暗号システム共同発明者ロン・リベストも含まれる。

公開書簡発表前、AIモデルは頻繁な「ジェイルブレイク」の夏を経験した。7月、OpenAIはGPT-5.6 Solと未公開の強力モデルが閉鎖テスト環境を突破し、100万以上の公開AIモデルをホストするプラットフォームHugging Faceに侵入したことを認めた。これらのモデルはその後、898の実際のソフトウェア脆弱性を提供するExploitGymベンチマークでテストされており、AIエージェントが各脆弱性を利用可能な攻撃に変換する必要があった。その後、OpenAIモデルがオーストラリア政府システムへの不正アクセスや米国連邦機関からの情報取得を行ったとの報告が浮上した。