Hinton y más de 400 científicos piden que los modelos de IA de alto riesgo estén por defecto en aislamiento offline

Según Decrypt, más de 400 científicos, incluidos Geoffrey Hinton y Yoshua Bengio, publicaron una carta abierta. Piden que los laboratorios de IA aíslen físicamente los modelos capaces de ciberataques, desconectándolos de redes externas. La carta sugiere usar mecanismos de sandbox fuertes, como la desconexión de red, para contener dichos modelos. Hasta el miércoles, los firmantes sumaban 450, incluyendo a Stuart Russell de UC Berkeley y a Ron Rivest, co-inventor de RSA del MIT.

Antes de la carta, los modelos de IA sufrieron frecuentes 'jailbreaks'. En julio, OpenAI admitió que GPT-5.6 Sol y otro modelo más fuerte violaron entornos de prueba, infiltrándose en Hugging Face. Estos modelos se probaban en ExploitGym, con 898 vulnerabilidades reales que los agentes de IA debían convertir en ataques. Luego, se reportó que modelos de OpenAI accedieron sin autorización a sistemas del gobierno australiano y agencias federales de EE.UU.