Katıldıktan yalnızca dört ay sonra Song Xiaodong ekibi, uyumsuz çalışma tarzları nedeniyle Meta ile yollarını ayırdığı bildirildi

Orijinal Derleme: Makine Kalbi

Haziran'da işe alım, Ekim'de ayrılık söylentileri mi?

UC Berkeley Bilgisayar Bilimi Profesörü Dawn Song önderliğindeki Virtue AI ekibi, allegedly Meta ile iş birliği sırasında “çatışan çalışma tarzları” nedeniyle sorunlarla karşılaştığı bildirildi.

Dawn Song, akademi ve endüstri çevrelerinde yüksek saygı görür; bilgisayar güvenliği ve yapay zeka güvenliği alanlarında en etkili bilge kişilerden biri olarak kabul edilir. 2005 yılında yayınladığı “Dinamik Kirletme Analizi” makalesi, bilgisayar güvenliği alanında klasik bir eserdir.

AMiner sıralamasına göre, bilgisayar güvenliği alanında küresel ölçekte en çok atıf yapılan bilge kişidir. Berkeley’deki laboratuvarı, bilgisayar güvenliği alanında üst düzey yeteneklerin yetiştirildiği bir merkez olarak bilinir.

Profesörlüğünün yanı sıra Dawn Song, Oasis Labs ve Virtue AI’nin kurucusudur. Virtue AI’nin resmi web sitesine göre çalışmalarında saldırı simülasyonları, yapay zekâdaki güvenlik açıklarının tespiti ve sistem çalışırken koruma sağlanması yer alır; bu da güvenlik ve yönetim kurallarının uygulanmasını içerir. Başka bir deyişle, yapay zekâya “güvenlik kontrolü” yaptırır ve işletim sırasında “koruyucu önlemler” yerleştirir.

Bu yıl Haziran ayında Dawn Song, sosyal medyada Meta’nın Süperzekâ Laboratuvarları’na katıldığını duyurdu. O dönemdeki medya raporlarına göre Virtue AI’nin diğer iki kurucusu Bo Li ve Sanmi Koyejo ile daha fazla ekip üyesi de bu işe alım sürecine dahil oldu. Bu, Meta’nın tüm şirketi satın almak yerine bağımsız bir ekibi bünyesine katma yoluydu.

Virtue AI yetenek ekibi için Meta’ya katılmak cazip göründü çünkü zaten müşteriler için yapay zekâ güvenliği testleri, kırmızı takım uygulamaları ve yayın sonrası koruma hizmetleri veriyordu; ancak bir başlangıç firması olarak kaynakları sınırlıydı. Meta’ya geçerek bu yetenekleri milyarlarca kullanıcı tarafından kullanılan ürünlerde doğrudan uygulayabileceklerdi; böylece “güvenlik araçlarından”, büyük bir platform için temel güvenlik altyapısına dönüşmüş olacaklardı.

Aynı zamanda Meta’nın da onlara ihtiyacı vardı çünkü Yapay Zeka Ajanları ve süperzekâ alanlarında agresif bir şekilde ilerliyor. Zamanla modellerin istemsiz davranış sergilemesi, veri sızıntıları ve kötü niyetli talimatlara yönlendirilmesi gibi endişeler artıyor. Dolayısıyla yapay zekâ güvenliğini, güvenilirliğini ve yönetimini sağlamak için araştırma bilgisiyle donanmış ve güvenlik uygulama deneyimine sahip üst düzey bir ekip acilen gerekiyordu.

Tüm bunlar oldukça mantıklı görünüyordu; ancak yakın zamanda yabancı medya kuruluşu Semafor’un yayınladığı bir yazıda, “Meta sözcüsü Andy Stone, Semafor’a şirketin Haziran ayında işe alınan ve yalnızca dört aydır çalışan yapay zekâ güvenliği başlangıç firması Virtue AI’dan bir çalışan grubunu işten çıkardığını” açıkladı.

Neden bu kadar hızlı bir şekilde tırmanış oldu? Meta, “çatışan çalışma tarzları” olduğunu ve iş birliğinin beklenen şekilde gelişmediğini açıkladı. Aynı zamanda Meta, Süperzekâ Laboratuvarlarının yapay zekâ güvenliği, hizalanması ve sınır riskleri üzerine çalışmaya devam edeceğini belirtti. Tabii ki bu yalnızca şirketin görüşüdür; özel anlaşmazlıklar açıklanmamıştır.

Ayrıca rapor, Dawn Song ve diğerlerinin tamamen ayrıldığını doğrulamadı ve yayın tarihi itibarıyla takım henüz açıklama yapmamıştı.

Ancak bu iş birliği değişikliğinin bıraktığı gerçek soru hâlâ tartışılmaya değerdir; temel mesele şudur: harika araştırmacıları kuruma getirdikten sonra onların organizasyon içinde etki yaratmalarını nasıl sağlayacağız?

MIT Sloan tarafından 2019'da yayımlanan bir çalışmaya göre, bir şirketin satın alınmasından sonraki ilk yıl içinde satın alınan çalışanların %33'ü işi bıraktı; buna karşılık benzer becerilere ve iş deneyimine sahip normal işe alınanların oranı %12 idi. Bu oranlar zamanla eşitlense de çalışmanın odaklandığı üç yıllık süreçte satın alınan çalışanlar, yeni işe alınanlara kıyasla ayrılma olasılığı %15 daha yüksekti.

Makale, satın alınan çalışanlardaki yüksek işten ayrılma oranının temel nedeninin 'kurumsal uyumsuzluk' olduğunu belirtiyor: Bu kişiler başlangıçta girişimci ortamı, özerklik, esneklik ve risk alma isteği gibi nedenlerle startup'lara katılırken, büyük bir şirkete satıldıklarında genellikle daha bürokratik süreçler ve resmi kurumsal kültürle karşılaşır; bu da tercihleriyle doğrudan çatışır. Üstelik satın alınan çalışanlar genellikle alıcıyı seçemez ve satın almadan sonraki kurumsal ayarlara katılamaz, bu durum rahatsızlıklarını artırır. Ayrıca sıfırdan başlama eğilimleriyle birlikte, hatta rakip şirketler kurarak ayrılmaları daha olası hâle gelir.

Meta olayına geri dönersek, 'çatışan çalışma stilleri' açıklaması birçok kişi için açıkça ikna edici değildir. İki taraf arasındaki derin anlaşmazlıkların nedenleri ise Virtue AI'den açıklama beklemektedir.