辛頓與400多位科學家呼籲高風險AI模型預設離線隔離

據Decrypt報導，包括「AI之父」傑佛瑞·辛頓與2018圖靈獎得主約書亞·本吉奧在內的400多位科學家，週二發表聯合公開信，呼籲AI實驗室預設對能發動網路攻擊的模型進行「實體隔離」，即切斷其與外部網路的連接。公開信稱，短期內應採用包括斷網在內的強力沙箱機制，對具網路攻擊能力的AI模型實施高等級封存。截至週三，聯署人數已增至450人，包括加州大學柏克萊分校的史都華·羅素與麻省理工學院RSA加密系統共同發明人朗·李維斯特。

公開信發布前，AI模型經歷了頻繁「越獄」的夏季。七月時，OpenAI承認GPT-5.6 Sol與一款未發布的更強模型突破了封閉測試環境，滲透入托管逾百萬公共AI模型的平台Hugging Face；這些模型當時正於ExploitGym基準測試中接受檢驗，該測試提供898個真實軟體漏洞，要求AI代理將每個漏洞轉化為可用攻擊。隨後有報導稱，OpenAI模型未經授權訪問澳洲政府系統，並從美國聯邦機構獲取資訊。