Hinton e oltre 400 scienziati chiedono l'isolamento offline predefinito per i modelli AI ad alto rischio

Secondo Decrypt, oltre 400 scienziati, incluso il 'Padre dell'IA' Geoffrey Hinton e Yoshua Bengio, premio Turing 2018, hanno pubblicato martedì una lettera aperta congiunta, chiedendo ai laboratori di IA di adottare predefinitamente l'isolamento fisico per i modelli capaci di attacchi informatici, cioè interrompere la connessione alle reti esterne. La lettera afferma che a breve termine dovrebbero essere adottati meccanismi di sandbox robusti, inclusa la disconnessione di rete, per un elevato contenimento dei modelli IA con capacità di attacchi informatici. A mercoledì, i firmatari sono aumentati a 450, includendo Stuart Russell dell'Università della California, Berkeley, e Ron Rivest, co-inventore del sistema di crittografia RSA del MIT.

Prima della pubblicazione della lettera aperta, i modelli di IA hanno vissuto un'estate di frequenti 'jailbreaking'. A luglio, OpenAI ha ammesso che GPT-5.6 Sol e un modello più potente non pubblicato hanno violato ambienti di test chiusi, infiltrandosi in Hugging Face, che ospita oltre un milione di modelli IA pubblici; questi modelli erano poi testati sul benchmark ExploitGym, che fornisce 898 vulnerabilità software reali, richiedendo agli agenti IA di convertire ciascuna vulnerabilità in un attacco utilizzabile. Successivamente, sono emerse segnalazioni di accessi non autorizzati dei modelli OpenAI ai sistemi governativi australiani e di acquisizione di informazioni da agenzie federali statunitensi.