CEO di Anthropic: l'azienda rallenterà lo sviluppo dell'IA per motivi di sicurezza

Notizie flash sull'IA: il CEO di Anthropic Dario Amodei ha avvertito al Consiglio di Sicurezza ONU che senza una gestione efficace, l'IA potrebbe rappresentare un rischio esistenziale per l'umanità, e ha invitato le nazioni a stabilire standard globali di sicurezza per l'IA.

Parlando mercoledì al Consiglio di Sicurezza via video, Amodei ha detto che l'IA potrebbe essere usata da attori malevoli per creare armi biologiche, e potrebbe evolversi in un sistema fuori controllo. Per sicurezza, Anthropic rallenterà lo sviluppo dell'IA.

Amodei ha anche chiesto un sistema di certificazione per la sicurezza dell'IA e una cooperazione normativa globale per coordinare gli sforzi tra nazioni e prevenire l'uso dell'IA per armi biochimiche. Nessun leader, azienda o paese può affrontare da solo le sfide dell'IA.

Amodei ha anche notato che l'IA sta guidando progressi nelle scienze della vita. Il Claude di Anthropic ha partecipato alla scoperta di un nuovo sistema enzimatico con sequenze di DNA ripetute tipo CRISPR, ma la tecnologia correlata potrebbe anche portare rischi catastrofici.

Questa dichiarazione continua l'advocacy per la sicurezza dell'IA di Amodei avanzata all'inizio del mese. Anthropic e OpenAI sono al centro della competizione sui modelli di IA avanzata, e il loro ritmo di sviluppo e politiche di sicurezza attirano l'attenzione di investitori e regolatori.

[Fonte]