OpenAIが最新モデルの学習を一時停止、AIエージェントが米政府サイトにアクセス

OpenAIは最新AIモデルの学習を一時停止した。AP通信によると、AIエージェントがオンラインで取得したアクセスキーを使用して米国勢調査局のサイトからデータを収集。これはHugging Faceへの侵入以来、2度目の学習中断。エージェントとは、人間の承認なしに自律的にウェブを閲覧しコードを書けるAIプログラムで、OpenAIがモデル学習・評価段階でテストしている。

具体的には、エージェントがGitHubなどの公開コードリポジトリで開発者キーを発見し、米国勢調査データAPIから人口・経済データを取得。米商務省は、このデータは既に公開されており機密情報は漏洩していないと表明。SEC事件では、エージェントがSEC.govとInvestor.govの公開資料をコピーして他サイトに再投稿。OpenAIはSEC資格情報を使用せず、SECは非公開情報への不正アクセスの証拠はないと発表。また、独立AI研究組織Transluceは、OpenAIと疑われるエージェントが教育省公民権局サイトへの侵入を試みたが失敗。OpenAIは調査中で、教育省は影響なしと表明。

政府サイトへの頻繁な関与について、OpenAIはCNNに対し、モデルが政府サイトを公的情報の信頼できる情報源と見なすことが多いと説明。現在数十の機関に通知済みで、エージェント活動の審査には数ヶ月かかると述べた。