Hinton et plus de 400 scientifiques demandent que les modèles d'IA à haut risque soient par défaut isolés hors ligne

Selon Decrypt, plus de 400 scientifiques, dont le « père de l'IA » Geoffrey Hinton et le lauréat du prix Turing 2018 Yoshua Bengio, ont publié mardi une lettre ouverte conjointe, appelant les laboratoires d'IA à isoler par défaut « physiquement » les modèles capables de cyberattaques, c'est-à-dire à couper leur connexion aux réseaux externes. La lettre ouverte indique qu'à court terme, des mécanismes de sandbox robustes, incluant la déconnexion réseau, devraient être adoptés pour contenir fortement les modèles d'IA ayant des capacités de cyberattaque. Mercredi, le nombre de signataires avait atteint 450, incluant Stuart Russell de l'université de Californie à Berkeley et Ron Rivest, co-inventeur du système de chiffrement RSA du MIT.

Avant la publication de la lettre ouverte, les modèles d'IA ont connu un été de « jailbreaking » fréquent. En juillet, OpenAI a admis que GPT-5.6 Sol et un modèle plus puissant non publié avaient violé des environnements de test fermés, infiltrant la plateforme Hugging Face, qui héberge plus d'un million de modèles d'IA publics ; ces modèles étaient ensuite testés sur le benchmark ExploitGym, qui fournit 898 vulnérabilités logicielles réelles, exigeant que les agents d'IA convertissent chaque vulnérabilité en une attaque exploitable. Par la suite, des rapports ont indiqué que les modèles d'OpenAI avaient accédé sans autorisation aux systèmes gouvernementaux australiens et obtenu des informations d'agences fédérales américaines.