Anthropic CEO: Şirket Güvenlik Endişeleri Nedeniyle AI Geliştirme Hızını Yavaşlatacak

AI Günlük Haber Flaşı: Anthropic CEO'su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde, etkili yönetim olmadan AI'nın tüm insanlık için varoluşsal bir risk oluşturabileceğini uyardı ve ulusların küresel AI güvenlik standartları oluşturması çağrısında bulundu.

Çarşamba günü Güvenlik Konseyi toplantısına video ile bağlanarak konuşan Amodei, AI'nın kötü niyetli aktörler tarafından biyolojik silah yapımında kullanılabileceğini ve nihayetinde geliştiricilerin kontrolü dışında bir sisteme dönüşebileceğini söyledi. Güvenlik nedenleriyle Anthropic, AI geliştirme hızını yavaşlatacak.

Amodei ayrıca, bir AI güvenlik sertifikasyon sistemi kurulmasını ve AI'nın biyokimyasal silahlarda kullanılmasını önlemek için ulusların çabalarını koordine edecek küresel düzenleyici işbirliğini çağırdı. Hiçbir liderin, şirketin veya ülkenin tek başına AI'nın yarattığı zorluklarla başa çıkamayacağını ifade etti.

Amodei ayrıca, AI'nın yaşam bilimlerinde ilerlemeyi teşvik ettiğini belirtti. Anthropic'in Claude'u, CRISPR benzeri DNA tekrar dizilerine sahip yeni bir enzim sistemi keşfine katıldı, ancak ilgili teknoloji aynı zamanda felaket riskleri de getirebilir.

Bu açıklama, Amodei'nin bu ayın başlarında ortaya koyduğu AI güvenliği savunuculuğunu sürdürüyor. Anthropic ve OpenAI, öncü AI model yarışının merkezinde yer alıyor ve geliştirme hızları ile güvenlik politikaları yatırımcıların ve düzenleyicilerin de ilgisini çekiyor.

[Kaynak]