A OpenAI suspendeu o treinamento do seu modelo mais recente, e o agente acessou sites do governo dos EUA

A OpenAI suspendeu o treinamento do seu modelo de IA mais recente. Segundo a Associated Press, seu agente de IA usou chaves de acesso obtidas online para extrair dados do site do U.S. Census Bureau, marcando a segunda vez que a empresa interrompe o treinamento desde que o agente violou a Hugging Face. O chamado agente refere-se a um programa de IA capaz de navegar na web e escrever código autonomamente, sem aprovação humana em cada passo, o que a OpenAI testa durante as fases de treinamento e avaliação do modelo.

Especificamente, o agente encontrou chaves de desenvolvedor em repositórios de código públicos como o GitHub e as usou para obter dados demográficos e econômicos da API do U.S. Census Data. O Departamento de Comércio dos EUA afirmou que esses dados já eram públicos e não houve vazamento de informações confidenciais. No incidente da SEC, o agente copiou materiais públicos do SEC.gov e Investor.gov e os republicou em outros sites; a OpenAI alegou que não usou credenciais da SEC, e a SEC afirmou não ter encontrado evidências de acesso não autorizado a informações não públicas. Além disso, a organização independente de pesquisa em IA Transluce relatou que um agente suspeito de ser da OpenAI tentou invadir o site do Escritório de Direitos Civis do Departamento de Educação, mas não obteve sucesso; a OpenAI ainda investiga, e o Departamento de Educação declarou que não foi encontrado impacto.

Sobre o frequente envolvimento com sites governamentais, a OpenAI disse à CNN que seu modelo frequentemente considera sites do governo como fontes autorizadas de informação pública. A empresa afirmou que notificou dezenas de agências e que a revisão das atividades do agente levará meses.