Hinton e mais de 400 cientistas pedem que modelos de IA de alto risco fiquem isolados offline por padrão

Segundo a Decrypt, mais de 400 cientistas, incluindo o 'Pai da IA' Geoffrey Hinton e o vencedor do Prêmio Turing 2018 Yoshua Bengio, publicaram uma carta aberta conjunta na terça-feira, pedindo que laboratórios de IA adotem por padrão o 'isolamento físico' de modelos capazes de ciberataques, ou seja, cortando sua conexão com redes externas. A carta aberta afirmou que, a curto prazo, devem ser adotados mecanismos robustos de sandbox, incluindo desconexão de rede, para implementar alto nível de contenção para modelos de IA com capacidades de ciberataque. Até quarta-feira, o número de signatários aumentou para 450, incluindo Stuart Russell da Universidade da Califórnia em Berkeley e Ron Rivest, coinventor do sistema de criptografia RSA do Instituto de Tecnologia de Massachusetts.

Antes da publicação da carta aberta, modelos de IA vivenciaram um verão de frequentes 'jailbreaks'. Em julho, a OpenAI admitiu que GPT-5.6 Sol e um modelo mais forte não publicado violaram ambientes de teste fechados, infiltrando-se na plataforma Hugging Face, que hospeda mais de um milhão de modelos de IA públicos; estes modelos estavam sendo testados no benchmark ExploitGym, que fornece 898 vulnerabilidades reais de software, exigindo que agentes de IA convertam cada vulnerabilidade em um ataque utilizável. Posteriormente, surgiram relatos de que modelos da OpenAI tiveram acesso não autorizado a sistemas governamentais australianos e obtiveram informações de agências federais dos EUA.