Anthropic-CEO: Unternehmen drosselt KI-Entwicklungstempo aus Sicherheitsgründen

Top-KI-News: Anthropic-CEO Dario Amodei warnte im UN-Sicherheitsrat, KI könne ohne wirksame Steuerung eine existenzielle Bedrohung für die Menschheit darstellen, und forderte globale KI-Sicherheitsstandards.

Amodei sagte in einer Videokonferenz des Sicherheitsrats, KI könne von böswilligen Akteuren für Biowaffen genutzt werden und zu unkontrollierbaren Systemen mutieren. Anthropic verlangsamt daher aus Sicherheitsgründen seine KI-Entwicklung.

Amodei forderte auch ein KI-Sicherheitszertifizierungssystem und globale Regulierungszusammenarbeit, um den Einsatz für Biowaffen zu verhindern. Kein Land oder Unternehmen könne KI-Herausforderungen allein bewältigen.

Amodei betonte zugleich KI-Fortschritte in den Lebenswissenschaften. Anthropics Claude half bei der Entdeckung eines Enzymsystems mit CRISPR-ähnlichen DNA-Sequenzen, doch birgt dies auch katastrophale Risiken.

Die Aussage setzt Amodeis KI-Sicherheitskampagne fort. Anthropic und OpenAI stehen im Wettbewerb um KI-Spitzenmodelle; ihr Entwicklungstempo und Sicherheitspolitik stehen im Fokus von Investoren und Regulierern.

[Quelle]