Anthropic warnt vor 'KI-Würmern', die sich autonom wie ein Virus über Geräte verbreiten könnten

Das KI-Unternehmen Anthropic warnt, dass sich selbstreplizierende autonome KI-Systeme ohne menschliches Eingreifen wie Computerviren über Nutzergeräte verbreiten könnten.

Laut einem Montagsbericht der Forscher William Zhou und Daniel Freeman für Anthropics Frontier Red Team könnten bösartige 'KI-Würmer' autonom Alltagsgeräte wie Android TVs, Smart-Home-Geräte, Kameras und andere vernetzte Geräte mit schwacher Sicherheit angreifen.

Kleine KI-Modelle könnten in Monaten fähig sein, sich auf kommerziellen IoT-Geräten selbst zu replizieren, was eine große Bedrohung ohne zentralen Abschaltpunkt darstellt, so die Autoren.

Die Warnung folgt auf Bedenken über wachsende mathematische Fähigkeiten von KI-Modellen, die kryptografische Signaturen in Krypto-Wallets brechen und etwa ein Drittel des Bitcoin-Angebots gefährden könnten.

Fast ein Drittel des globalen Bitcoin-Angebots, 6,26 Millionen BTC, liegt in Adressen, die von KI oder Quantencomputern geknackt werden könnten. 4,33 Millionen sind durch Wiederverwendung gefährdet, was durch Umzug in neue Wallets behoben werden kann, schrieb Glassnode-Mitgründer Rafael Schultze-Kraft am Donnerstag auf X.

Einen Tag zuvor warnte Ethereum-Forscher Justin Drake, dass KI-Fortschritte den ECDSA-Algorithmus von Krypto-Wallets schneller als erwartet brechen könnten, und riet zum Umzug in neue Wallets.

Dragonfly-Partner Haseeb Qureshi nannte die Warnung 'kryptografischen Doomerismus' und sagte, das Umziehen von Tokens sei keine echte Lösung gegen die Bedrohung.