Anthropic 執行長：基於安全考量，公司將放緩 AI 開發步調

Breaking AI 新聞快訊：Anthropic 執行長 Dario Amodei 在聯合國安理會警告，若無有效管理，AI 可能對全人類構成生存威脅，並呼籲各國建立全球 AI 安全標準。

Amodei 週三透過視訊在安理會會議中表示，惡意行為者可能利用 AI 製造生物武器，且 AI 最終可能演變成超出開發者控制的失控系統。基於安全理由，Anthropic 將放緩其 AI 開發步調。

Amodei 也呼籲建立 AI 安全認證系統，並推動全球監管合作，協調各國努力防止 AI 被用於生化武器。他表示，沒有任何領袖、公司或國家能獨自應對 AI 帶來的挑戰。

Amodei 也指出，AI 正推動生命科學進步。Anthropic 的 Claude 參與發現了具有 CRISPR 樣 DNA 重複序列的新酶系統，但相關技術也可能帶來災難性風險。

此聲明延續 Amodei 本月稍早提出的 AI 安全倡議。Anthropic 與 OpenAI 同處前沿 AI 模型競爭核心，其開發步調與安全政策也受投資者與監管機構關注。

[來源]