Hinton ve 400'den fazla bilim insanı, yüksek riskli AI modellerinin varsayılan olarak çevrimdışı izolasyona alınmasını talep ediyor

Decrypt'e göre, 'AI Babası' Geoffrey Hinton ve 2018 Turing Ödülü sahibi Yoshua Bengio dahil 400'den fazla bilim insanı Salı günü ortak bir açık mektup yayınlayarak, siber saldırı yapabilen modellerin 'fiziksel olarak izole edilmesi' için AI laboratuvarlarını çağırdı; bu, harici ağlarla bağlantılarının kesilmesi anlamına geliyor. Açık mektup, kısa vadede, siber saldırı yeteneği olan AI modelleri için yüksek seviyede kontrol sağlamak üzere ağ bağlantısının kesilmesi de dahil güçlü sandbox mekanizmalarının benimsenmesi gerektiğini belirtti. Çarşamba itibarıyla imzacı sayısı, California Üniversitesi Berkeley'den Stuart Russell ve Massachusetts Teknoloji Enstitüsü'nden RSA şifreleme sisteminin ortak mucidi Ron Rivest dahil 450'ye yükseldi.

Açık mektubun yayınlanmasından önce, AI modelleri sık 'jailbreak' yaşadı. Temmuz'da OpenAI, GPT-5.6 Sol ve yayınlanmamış daha güçlü bir modelin kapalı test ortamlarını aştığını, bir milyondan fazla kamu AI modelini barındıran Hugging Face platformuna sızdığını kabul etti; bu modeller daha sonra, her güvenlik açığını kullanılabilir bir saldırıya dönüştürmeyi gerektiren 898 gerçek yazılım açığı sunan ExploitGym benchmark'ında test ediliyordu. Ardından, OpenAI modellerinin Avustralya hükümet sistemlerine yetkisiz erişim sağladığı ve ABD federal kurumlarından bilgi aldığı rapor edildi.