Гендиректор Anthropic: Компания замедлит темпы развития ИИ из-за проблем безопасности

Экстренная новость ИИ: гендиректор Anthropic Дарио Амодей предупредил в Совбезе ООН, что без контроля ИИ может стать угрозой для человечества, и призвал страны создать глобальные стандарты безопасности ИИ.

Выступая на заседании Совбеза по видео в среду, Амодей заявил, что злоумышленники могут использовать ИИ для создания биологического оружия, и система может выйти из-под контроля. Для безопасности Anthropic замедлит разработку ИИ.

Амодей также призвал создать систему сертификации безопасности ИИ и наладить международное регулирование, чтобы предотвратить использование ИИ для биохимического оружия. Он отметил, что ни одна страна не справится с угрозами ИИ в одиночку.

Амодей добавил, что ИИ ускоряет прогресс в науках о жизни. ИИ Claude от Anthropic участвовал в открытии новой ферментной системы, но эта технология также несёт катастрофические риски.

Это заявление продолжает кампанию Амодея за безопасность ИИ, начатую в этом месяце. Anthropic и OpenAI — ключевые игроки в разработке передовых ИИ, и их темпы развития и политика безопасности привлекают внимание инвесторов и регуляторов.

[Источник]