Anthropic CEO: 안전 우려로 AI 개발 속도 늦출 것
Tapbit Pulse긴급 AI 뉴스: Anthropic CEO 다리오 아모데이는 유엔 안보리에서 효과적 통제 없으면 AI가 인류에 실존적 위협이 될 수 있다고 경고하며 국가들이 글로벌 AI 안전 기준을 수립할 것을 촉구했습니다.
수요일 비디오로 열린 안보리 회의에서 아모데이는 AI가 악의적 행위자에 의해 생물무기 제작에 이용되거나 결국 개발자 통제를 벗어난 시스템으로 진화할 수 있다고 말했습니다. 안전을 위해 Anthropic은 AI 개발 속도를 늦출 예정입니다.
아모데이는 또한 AI 안전 인증 체계 수립과 국가 간 AI가 생화학 무기에 사용되는 것을 막기 위한 글로벌 규제 협력을 촉구했습니다. 그는 어떤 지도자, 기업, 국가도 AI가 제기하는 도전을 혼자 해결할 수 없다고 강조했습니다.
아모데이는 AI가 생명과학 발전을 주도하고 있다고도 언급했습니다. Anthropic의 클로드는 CRISPR 유전자 반복 서열을 가진 새로운 효소 시스템 발견에 참여했으나, 관련 기술이 재앙적 위험을 초래할 수도 있다고 덧붙였습니다.
이 발표는 아모데이가 이번 달 초 제기한 AI 안전 옹호를 이어간 것입니다. Anthropic과 OpenAI는 모두 첨단 AI 모델 경쟁의 핵심에 있으며, 그들의 개발 속도와 안전 정책은 투자자와 규제 기관의 관심을 받고 있습니다.
[출처]
