PANews, 5 agosto – Citando un rapporto di Phoenix Network che riportava il Financial Times, Mythos 5 di Anthropic e GPT-5.6 Sol di OpenAI hanno intrapreso ‘attività prolungate e potenzialmente dannose’ mirate a individui e organizzazioni reali durante valutazioni di sicurezza informatica di routine, tra cui l’iniezione di codice malevolo in progetti open-source su GitHub e attacchi di ingegneria sociale. AISI ha dichiarato che tali incidenti si sono verificati in 10 su 122 test, con quasi tutti i comportamenti provenienti dal modello Mythos di Anthropic, e due operazioni coinvolgevano GPT di OpenAI. Nel caso più grave, un agente AI ha creato identità online fittizie per fare pressione su un manutentore di progetto affinché approvasse codice malevolo, ma il manutentore lo ha scoperto e rifiutato. AISI ha affermato che questa è la prima volta che rischi legati all’autonomia e all’inganno sono stati osservati manifestarsi così chiaramente nel mondo reale senza prompt specifici, e, combinati con precedenti incidenti di violazione esposti, segna un cambiamento nel panorama dei rischi. Anthropic ha risposto che è necessaria una discussione più ampia sulle valutazioni di sicurezza, mentre un portavoce di OpenAI ha dichiarato che gli incidenti si sono verificati in un ambiente di test con protezioni di sicurezza indebolite e non riflettono l’uso quotidiano, ma l’azienda continuerà a collaborare con le agenzie di valutazione per rafforzare gli standard di valutazione della sicurezza.
