アンソロピックCEO：安全性懸念からAI開発ペースを減速

AIニュース速報：アンソロピックCEOダリオ・アモデイが国連安保理で、効果的な管理がなければAIが人類への存亡リスクとなり得ると警告し、各国に世界的なAI安全基準の確立を呼びかけました。

水曜日の安保理会合でビデオ出演したアモデイは、AIが悪意ある者に生物兵器作成に使われたり、最終的には開発者の制御を超える暴走システムに進化する可能性があると述べ、安全性のためアンソロピックはAI開発ペースを減速させるとしました。

アモデイはまた、AI安全認証制度の確立と、AIが生物化学兵器に利用されるのを防ぐための国際的な規制協調を各国に呼びかけ、AIの課題は単独の指導者や企業、国では対処できないと述べました。

さらにアモデイは、AIが生命科学の進歩を促進しているとも指摘。アンソロピックのClaudeがCRISPR様DNA反復配列を持つ新酵素系の発見に貢献したが、関連技術は壊滅的リスクももたらしうるとしました。

この発言は、今月初めに示されたアモデイのAI安全提言を継続するもの。アンソロピックとOpenAIは先端AIモデル競争の中心にあり、その開発ペースと安全方針は投資家・規制当局の注目を集めています。

[出典]