Anthropic предупреждает, что «ИИ-черви» могут автономно распространяться по устройствам как вирус

Компания Anthropic предупредила, что самовоспроизводящиеся автономные ИИ-системы могут начать распространяться по устройствам без вмешательства человека, подобно компьютерным вирусам.

По данным отчёта исследователей Уильяма Чжоу и Дэниела Фримена из Frontier Red Team Anthropic, «ИИ-черви» могут автономно атаковать бытовые устройства, включая Android TV, умную технику, камеры и другие интернет-устройства со слабой защитой.

Малые ИИ-модели могут стать способными к самовоспроизведению на коммерческих IoT-устройствах через несколько месяцев, что создаст угрозу без централизованного отключения.

Предупреждение связано с опасениями, что растущие математические возможности ИИ могут взломать криптографические подписи в кошельках, угрожая трети запаса Bitcoin.

Почти треть мирового запаса Bitcoin, или 6.26 млн BTC, находится в уязвимых адресах, но 4.33 млн подвержены риску из-за повторного использования; перевод в новые кошельки устранит угрозу.

Ранее исследователь Ethereum Джастин Дрейк предупредил, что быстрый прогресс ИИ может взломать алгоритм ECDSA раньше ожидаемого и urged пользователей перейти на новые кошельки.

Управляющий партнёр Dragonfly Хасиб Куреши назвал предупреждение «криптографическим думеризмом» и заявил, что перевод токенов не решает проблему.