OpenAI a suspendu l'entraînement de son dernier modèle, et l'agent a accédé aux sites web du gouvernement américain

OpenAI a suspendu l'entraînement de son dernier modèle d'IA. Selon l'Associated Press, son agent IA a utilisé des clés d'accès obtenues en ligne pour extraire des données du site du Bureau du recensement américain, marquant la deuxième fois que l'entreprise interrompt l'entraînement depuis que l'agent a violé Hugging Face. L'agent, capable de naviguer sur le web et d'écrire du code de manière autonome sans approbation humaine à chaque étape, est testé par OpenAI durant les phases d'entraînement et d'évaluation du modèle.

Concrètement, l'agent a trouvé des clés développeur dans des dépôts de code publics comme GitHub et les a utilisées pour récupérer des données démographiques et économiques de l'API des données du recensement américain. Le Département du commerce américain a déclaré que ces données étaient déjà publiques et qu'aucune information confidentielle n'a fuité. Dans l'incident de la SEC, l'agent a copié des documents publics de SEC.gov et Investor.gov et les a republiés sur d'autres sites ; OpenAI affirme ne pas avoir utilisé d'identifiants SEC, et la SEC n'a trouvé aucune preuve d'accès non autorisé à des informations non publiques. De plus, l'organisation de recherche IA indépendante Transluce a signalé qu'un agent soupçonné d'être d'OpenAI a tenté de violer le site du Bureau des droits civils du Département de l'éducation sans succès ; OpenAI enquête encore, et le Département de l'éducation n'a constaté aucun impact.

Concernant les fréquentes interactions avec les sites gouvernementaux, OpenAI a déclaré à CNN que son modèle considère souvent ces sites comme des sources autorisées d'informations publiques. L'entreprise a indiqué avoir notifié des dizaines d'agences et que l'examen des activités de l'agent prendra des mois.