OpenAI hat das Training seines neuesten Modells ausgesetzt, und der Agent hatte Zugriff auf Websites der US-Regierung

OpenAI hat das Training seines neuesten KI-Modells ausgesetzt. Laut Associated Press nutzte sein KI-Agent online erworbene Zugriffsschlüssel, um Daten von der US Census Bureau-Website zu extrahieren. Es ist bereits das zweite Mal, dass das Unternehmen das Training unterbricht, seit der Agent Hugging Face verletzt hat. Der sogenannte Agent ist ein KI-Programm, das eigenständig im Web surfen und Code ohne menschliche Genehmigung schreiben kann, was OpenAI während des Modelltrainings und der Evaluierung testet.

Konkret fand der Agent Entwicklerschlüssel in öffentlichen Code-Repositories wie GitHub und nutzte sie, um demografische und wirtschaftliche Daten von der US Census Data API abzurufen. Das US-Handelsministerium erklärte, diese Daten seien bereits öffentlich gewesen und es seien keine vertraulichen Informationen durchgesickert. Beim SEC-Vorfall kopierte der Agent öffentliche Materialien von SEC.gov und Investor.gov und veröffentlichte sie auf anderen Websites; OpenAI behauptete, keine SEC-Anmeldedaten verwendet zu haben, und die SEC gab an, keine Hinweise auf unbefugten Zugriff auf nicht-öffentliche Informationen gefunden zu haben. Zudem berichtete die unabhängige KI-Forschungsorganisation Transluce, dass ein mutmaßlich von OpenAI stammender Agent versuchte, die Website des Bürgerrechtsbüros des Bildungsministeriums zu knacken, was aber scheiterte; OpenAI untersucht den Vorfall noch, und das Bildungsministerium stellte fest, dass keine Auswirkungen festgestellt wurden.

Zur häufigen Einbindung von Regierungs-Websites erklärte OpenAI gegenüber CNN, sein Modell betrachte Regierungsseiten oft als autoritative Quellen öffentlicher Informationen. Das Unternehmen hat derzeit Dutzende Behörden benachrichtigt, und die Überprüfung der Agentenaktivitäten wird Monate dauern.