Orijinal başlık: “Jensen Huang Sola Gidiyor, Amodei Sağa” Orijinal yazar: Su Yang, Tencent Teknoloji

Öncü yapay zekâya devam edilip edilmeyeceği ya da yavaşlatılmasının gerekli olup olmadığı, günümüzde Silikon Vadisi’nde en tartışmalı konu haline geldi.

Bu tartışmaya bağlı olarak Silikon Vadisi devleri taraflarını almaya başladı. Amodei, Altman, Musk ve Hassabis ‘durma kampanyası’na katıldı. Jensen Huang ise kararlı bir ‘hızlandırma yanlısı’dır ve ‘yapay zekâ felaketçiliğini’ bilimsel temeli olmadığını savunarak eleştiriyor; Yann LeCun ise Amodei’yi sürekli alaya alıyor: “(Amodei), OpenAI’dayken bile GPT-2’nin açık kaynak yapılmasının çok tehlikeli olduğunu düşünüyordu. O zaman ona alay etmiştim ve şimdi herkes devam edebilir.”

Buna karşılık Zuckerberg ve Nadella gibi isimler nispeten tarafsız bir tutum sergiledi.

Dev şirketlerin bu şekilde taraflarını alması, Silikon Vadisi’nde öncü modellerin durdurulması konusunda bir uzlaşma sağlanamadığını gösteriyor. Bunun nedeni, her şirketin yapay zekâ endüstri zincirindeki farklı ekolojik nişidir. Model seviyesinde lider olan şirketler çeşitli nedenlerle durma çağrısı yapabilir; ancak yüzlerce milyar dolarlık hesaplama siparişlerine sahip Oracle, AWS gibi şirketlerin ya da besin zincirinin zirvesinde yer alan Nvidia’nın durmasını istemek, olumlu yanıt almayı neredeyse imkânsız kılar.

Washington’da ‘durma’ çağrısı yalnızca destek bulamadı, aynı zamanda bir dizi şüphe de tetikledi.

‘Bana biraz Troyalı At gibi geldi.’ JD Vance bir röportajda bu ifadeyi kullandı. Bu söz aslında Washington’un gerçek görüşünü yansıtır: Troyalı At’ı inşa eden şirketler kapıları daraltmamızı sürekli talep ediyorsa, bu kapının aslında hangi şirketlere uygun olduğunu sorgulamak gerekir.

01 Durma Çağrısı, Uyarı ve İstifa Mektubu

Bu tartışmanın tetikleyicisi, Anthropic araştırmacısı Jacob Cockson’un istifası oldu.

Daha önce üç yıl boyunca OpenAI ve Anthropic’te ön eğitimi gerçekleştirmiş, en öncü modellerin eğitimi sürecine doğrudan katılmıştı. X’ta yayımladığı uzun bir yazıda nezaket ifadelerine yer vermemişti: “Hiçbir şirket sorumlu davranmıyor. İnsanlığın hayatını bahse koyarak kendini geliştiren süperzekâya doğru koşuyorlar.”

Açıkça belirtti ki laboratuvar içindeki insanlar gerçekten yapay zekânın on yıl içinde tüm insanlığı öldürebileceğine inanıyorlar ve bu kesinlikle bir halkla ilişkiler performansı değil. Birçok meslektaşı şu anki aşamayı “kritik dönem” ya da “son oyun” olarak tanımlamaya başladı. Cockson, vadesi yaklaşmakta olan hisse senedi opsiyonlarından da vazgeçti. Anthropic’te yalnızca dört aydır çalışıyordu ve şirket kurallarına göre opsiyonları kullanabilmek için altı aylık süre gerekiyordu.

Eski Anthropic araştırmacısı Jacob Coxon

Hemen ardından Anthropic’in hizalama bilimi başkanı Evan Hubinger, Jacob’ın haklı olduğunu açıkça kabul etti: Gerçekten de yapay zekânın tüm insanlığı öldürebileceğine inanıyoruz. Kişisel olarak bu ihtimalin on yıl içinde %10’dan fazla olduğunu düşünüyorum. Anthropic çaba harcıyor ama süperzekâ hizalaması için net bir planımız henüz yok ve hedefe ulaşmak için çok gerideyiz.

Bu iki açıklama, laboratuvarların içlerinde süregelen kaygıları doğrudan kamuoyunun önüne çıkardı. Bu bağlamda Anthropic kurucusu ve CEO’su Amodei, “öncü araştırmaları yavaşlatma” fikrini sistematik biçimde öne çıkaran uzun bir makale yayımladı. Artık yalnızca “güvenliğe daha fazla yatırım yapılması”ndan bahsetmiyordu; doğrudan güvenlik mekanizmalarının yetişmesi için yetenek sıçramalarının hızını kontrol etmeye çağrıda bulunuyordu.

Altman, Musk ve Hassabis hızlıca bu görüşü destekleyerek ‘durma cephesi’ni oluşturdu.

Jacob Coxon ve Amodei’nin ‘yavaşlama’ argümanları ortaya çıkmadan önce, Yoshua Bengio ve Geoffrey Hinton gibi ‘yapay zekâ babaları’, risklere dikkat çekmek amacıyla sürekli çağrılar yayınlamışlardı.

Coxon'un istifasından bahsederken Bengio, öncü yapay zeka laboratuvarlarındaki bilim insanlarının en yeni modellerin yeteneklerini genel público'dan daha erken görebileceğini, bu nedenle risk değerlendirmelerinin ciddiye alınması gerektiğini söyledi.

Aynı zamanda Bengio, mevcut yapay zeka sistemlerinin zaten siber saldırı ve ikna yeteneklerine sahip olduğunu belirtti; bunlar insan çıkarlarına zarar vermek için kullanılırsa ciddi sonuçlara yol açabilir. Ayrıca yapay zekânın uzun vadeli planlama yeteneği kazandıkça bu risklerin daha da büyüyeceğinden endişe duyuyor.

BBC'nin, önümüzdeki on yıl içinde yapay zekânın 'tüm insanları öldürme' olasılığının %10'u geçip geçmediği sorusuna yanıt veren Geoffrey Hinton, bu oranı 'makul olmayan bir değer değil' olarak nitelendirdi; ancak kimse güvenilir bir tahmin sunamadığını vurguladı çünkü insanlık, 'yakında bize kıyasla daha zeki olabilecek bir türün varlığıyla' daha önce hiç yüzleşmemişti.

Hinton, yapay zekânın gelecekte tehlikeli biyolojik virüsler, bilgisayar virüsleri tasarlamak ve büyük çaplı siber saldırılar başlatmak için kullanılabileceğini düşünüyor. Bu nedenle insanlık, riskler kontrol dışı çıkmadan önce etkili denetim yöntemleri bulmalıdır.

Silikon Vadisi'nin yeni 'durma teorisi' savunucularından farklı olarak, 'yapay zeka babaları', teknolojiyi doğrudan durdurmak yerine risklere dikkat çekmek ve bunları yönetmek için mekanizmalar geliştirmeyi amaçlıyor. Ayrıca akademiden gelen görüşler ve öneriler daha saf motivasyonlarla ortaya çıkarken, öncü laboratuvarlardan gelen girişimler — açıkça 'insanlığın yararı için' etiketlense bile — ticari kaygıları tamamen dışlamak zordur.

İşte bu yüzden JD Vance, 'durma teorisinin' bir Truva atı gibi olduğunu söyledi.

02 Ayrışma ve Taraf Tutma

'Hızlandırıcılar', 'yavaşlatıcılar' ve 'orta yolu seçenler'. Kaynak: The New York Times

15 Eylül'de çok sayıda teknoloji şirketi lideri Salesforce Dreamforce konferansında ardı ardına konuştu ve bu tartışma daha doğrudan görüş çatışmasına dönüştü.

O gün Amodei, Jensen Huang ve Altman hepsi yapay zeka güvenliği konusunda konuştu; ancak geliştirme hızı, güvenlik sorumluluğu ve şirketlerin ne yapması gerektiği konusunda farklı yanıtlar verdi.

Amodei, Salesforce CEO'su Marc Benioff ile aynı sahnede yer aldığında, yapay zeka şirketlerinin kendi eylemleriyle daha yüksek güvenlik standartları belirlemesi gerektiğini bir kez daha vurguladı. Şirketlerin aktif olarak daha katı güvenlik önlemleri almasının, tüm sektörü ileriye taşıyan bir yol olabileceğini düşündüğünü belirtti.

Yani Amodei'nin tutumu değişmeye başladı: Tüm sektörün yavaşlamasını talep etmekten, şirketlerin bağımsız olarak güvenlik önlemleri kurmasına doğru kaydı.

Jensen Huang, 'yeni yasalara ya da yeni düzenlemelere gerek yok' dedi. Ona göre hız ile güvenlik birbirini dışlayan iki kavram değil; şirketler model geliştirmesini mümkün olduğunca hızlı ilerletebilir; ancak işler kontrol dışına çıkarsa ya da ürün güvenliği sağlanamazsa durup sorunu çözmeli.

Benioff'un tutumu daha açık ve özerkliğe vurgu yaptı. Bir şirketin yavaşlaması gerektiğine inanıyorsa yavaşlamalı, hızlanmasına gerektiğine inanıyorsa hızlanmalı ve kendi kararlarından sorumlu olması gerektiğini belirtti.

OpenAI kurucusu ve CEO'su Altman, Dreamforce etkinliğinde OpenAI'nin ve hatta tüm yapay zeka sektörünün halka büyük zarar vermeden güvenli bir şekilde gelişebileceğine büyük ölçüde güvendiğini söyledi. Ayrıca görüşlerinin dışarıdan 'tüm sektörün yapay zeka gelişimini yavaşlatmasını desteklemek' şeklinde yanlış yorumlanmasından hayal kırıklığına uğradığını ifade etti.

Yani Altman da pozisyonunu değiştirmeye başladı: Sektörün yavaşlamasını çağrılmadığını, aksine güvenlik ve izleme çalışmalarının yetenek gelişiminden önce gelmesi gerektiğini vurgulamaya başladı.

Zuckerberg ise bir şirketin güvenlik eylemlerini diğer yapay zeka şirketlerinin eşzamanlı olarak yavaşlamasına dayandırmayı savunmuyor. Bağımsız değerlendirme kurumları ve dış danışmanların model güvenliğini test etmesinin sektörün en iyi uygulaması olduğunu düşünüyor. Ayrıca Meta'nın Muse yapay zeka aracı üzerindeki geliştirmeyi, diğer şirketlerin yapay zeka gelişimini yavaşlatma konusunda öncelikle bir mutabakata varmasını beklemeksizin kendi başına yavaşlattığını açıkladı.

Microsoft CEO'su Satya Nadella'nın tutumu kısmen Altman'ınkine benzer: hem güvenlik önlemlerinin eklenmesini hem de tam rekabeti teşvik ediyor.

'Yapmamız gereken ilk şey, insanlığa hizmet etmek ve teknolojinin insan kontrolünde kalmasını sağlamaktır. Aynı zamanda yapay zeka teknolojisinin yaygınlaşması en önemli önceliktir—seçim ve rekabet mutlaka olmalıdır. Güvenlik ciddiye alınmalı, ancak bunu mühendislik ve şeffaflık yoluyla ele almalıyız, onu gizemli kılmamalıyız,' dedi Nadella, 15 Eylül'de All-In Zirvesi 2026'ya katılırken.

Bu girişimcilerin yanı sıra Washington'dan sesler de tartışmaya katıldı.

Trump, Jensen Huang'u doğrudan arayarak yapay zekâ sektörünün gelişimine devam etmesini kamuoyuna duyurduktan sonra, Bilim ve Teknoloji Danışma Konseyi'nin ortak başkanı David Sacks, teknoloji şirketlerinin öncü yapay zekâ alanlarında ilerlemesine devam edebileceğini ifade ederken, bazı şirketlerin öne sürdüğü 'yavaşlama' gerekçelerinin niyetini sorguladı.

03 Kuralları Kim Belirleyecek?

Tartışma genişledikçe, tartışma konusu yalnızca yapay zekâ riskleriyle sınırlı kalmayıp, öncü yapay zekâ için güvenlik standartlarının şirketler tarafından mı yoksa hükümet ve bağımsız kurumlar tarafından mı belirlenmesi gerektiği sorusuna da uzandı.

Bloomberg, konuyla ilgili bilgisi olan kaynaklara dayanarak, Anthropic, Google ve OpenAI'nin daha önce bir yapay zekâ sektörü standartları kuruluşu kurmayı tartıştıklarını bildirdi.

Temmuz ayında Hassabis, ABD öncülüğünde, Finans Sektörü Düzenleme Kurumu (FINRA) gibi çalışan bir yapay zekâ standartları ajansı kurulmasını öneren bir makale yayımladı. Bu ajans, gelişmiş yapay zekâ modellerinin resmi olarak piyasaya sürülmeden önce test edilmesini ve ilgili güvenlik standartlarını karşılayıp karşılamadığının belirlenmesini sağlayabilir.

Hassabis'in vizyonuna göre bu ajans tamamen hükümet tarafından yönetilmemeli; kamu-özel ortaklığı modeli benimsenmelidir. Bu çerçevede hükümet denetim rolünü üstlenirken, yapay zekâ sektörü fon sağlar ve bağımsız üst düzey teknik uzmanlar ile açık kaynak topluluğu temsilcileri katılımcı olur.

Hassabis, modellerin gerçek dünyaya girmeden önce bağımsız bir güvenlik kontrolü eklemeyi amaçladı; bu yaklaşım, ABD hükümetinin Haziran başlarında duyurduğu düzenleme mantığıyla yakın şekilde örtüşür: Şirketler, modellerini halka açıklamadan önce isteğe bağlı olarak hükümete değerlendirme için sunabilir; bunun için piyasaya çıkıştan en fazla 30 gün önce erişim penceresi tanınır ve açıkça zorunlu onay ya da yayın lisansı yoktur.

Daha dramatik olan ise, Fable 5 ve Mythos 5'in ardından piyasaya sürüldüğünde bu süreci izlemediği, ancak son derece güçlü siber saldırı ve savunma yeteneklerine sahip olduğu tespit edildiği ve nihayetinde ABD Ticaret Bakanlığı (BIS) tarafından ihracat kontrolleri kapsamında geçici olarak çevrimdışı bırakıldığıdır.

Bununla birlikte politika duruşu yalnızca güvenlik önlemleri eklemeyi öngörür; yavaşlatma yönünde hiçbir açıklama veya rehberlik bulunmaz.

Hassabis ile benzer görüşü paylaşan OpenAI Baş Bilim İnsanı Jakub Pachocki'dir. Eylül başlarında yaptığı açıklamada, güvenlik standartlarının paylaşılması ve yapay zekâ gelişiminin uluslararası koordinasyonu üzerinde çalışılmasının şu anki öncelik olması gerektiğini vurguladı.

04 Aslında Kimse Freni Sıkıyor Değil

Şimdiye kadar bu tartışma, öncü yapay zekâ şirketlerinin gelişim hızını gerçekten değiştirmemiştir.

Anthropic, OpenAI, Google ve xAI gibi şirketler hâlâ model araştırması ve geliştirme çalışmalarına devam ediyor; buna karşılık hesaplama gücü, veri merkezleri ve yapay zekâ altyapısı üzerine rekabet bu tartışmadan etkilenmemiştir. Ancak sermaye piyasası düzeyinde farklı değişiklikler yaşanmıştır: Anthropic hâlâ bu yılki IPO hazırlıklarını sürdürüyor, OpenAI ise IPO planını 2027 yılına erteledi.

Amodei, tüm sektörü durdurup Anthropic ile birlikte modellerin yeteneklerinin sınırı aşması riskine karşı güvenlik önlemleri geliştirmeyi amaçlamaktadır; bu yaklaşım kısmen 'başkalarının masrafına cömertlik' olarak anlaşılabilir.

İşte bu yüzden Amodei, 'kusursuz küçük melek taklidi yapan' olarak tanımlanmıştır.

Risk kontrolü konusunda Jensen Huang tarafından temsil edilen görüş, aslında mevcut duruma daha uygundur. Şirketler endişe duyarsa ya da sorunlar tespit ederse, çözümleri kendi başlarına geliştirebilir ve oluşturdukları etkili çözümleri sektörle paylaşabilirler.

100 kişilik bir ekip ile 1.000 kişilik bir ekibi aynı anda durdurmak için herhangi bir mutabakat temeli yoktur. Hatta Amodei bile yalnızca kendisinin durması halinde OpenAI gibi rakipler tarafından geçilebileceğini çok iyi bilir.

Daha da önemli olanı, kurumsal yönetim düzeyinde farklar vardır. Anthropic ve OpenAI, Kamu Yararı Şirketleri olduğundan 'insanlığın geleceği için kısa vadeli finansal çıkarlardan vazgeçmek' çağrısında bulunabilir ve yatırımcılara 'bunu çoktan kabul ettik' diyebilirler; ancak Google, Microsoft ve Meta gibi halka açık şirketlerde yönetim, ikincil piyasa hissedarlarına karşı yasal sadakat yükümlülüğüne sahiptir.

Bu iki farklı çıkar grubuna sahip şirketler arasında bu konuda mutabakata varma olasılığı da oldukça düşüktür.

Dikkatten kaçabilecek başka bir ayrıntı ise 'durma teorisi'nden önce hem Anthropic hem de OpenAI sırasıyla en güçlü modellerini yayınlamıştır: biri Fable 5.1, diğeri ise GPT-6 Astra'dır.

Çağrılar arasında diğer şirketler yeni modellerini yine de piyasaya sürmeyecek mi?

Orijinal bağlantı