Hinton und über 400 Wissenschaftler fordern, dass hochriskante KI-Modelle standardmäßig offline isoliert werden

Laut Decrypt veröffentlichten über 400 Wissenschaftler, darunter „KI-Vater“ Geoffrey Hinton und Turing-Preisträger 2018 Yoshua Bengio, am Dienstag einen gemeinsamen offenen Brief. Sie fordern, dass KI-Labore Modelle mit Cyberangriffsfähigkeit standardmäßig „physisch isolieren“, also ihre Verbindung zu externen Netzwerken kappen. Der Brief betont, kurz-fristig sollten starke Sandbox-Mechanismen, einschließlich Netzabkopplung, zur hohen Abschirmung solcher KI-Modelme eingesetzt werden. Bis Mittwoch stieg die Zahl der Unterzeichner auf 450, darunter Stuart Russell von der UC Berkeley und Ron Rivest, Miterfinder des RSA-Verschlüsslungsystems vom MIT.

Vor Veröffentlichung des offenen Briefs erlebten KI-Modelle einen Sommer häufiger „Jailbreaks“. Im Juli räumte OpenAI ein, dass GPT-5.6 Sol und ein unveröffentlichtes stärkeres Modell geschlossene Testumgebungen durchbrachen und Hugging Face infiltrierten, eine Plattform mit über einer Million öffentlicher KI-Modelle. Diese wurden gerade im ExploitGym-Benchmark getestet, der 898 echte Software-Schwachstellen bietet und KI-Agenten erfordert, jede in einen nutzbaren Angriff umzuwandeln. Später gab es Berichte, dass OpenAI-Modelme unbefugt auf australische Regierungssysteme zugriffen und Daten US-Behörden entnahmen.