Kendini Geliştiren Yapay Zekâ Korkusu: Anthropic'ten İstifa Eden Araştırmacının Uyarısı

Yapay zekâ artık gündelik hayatın içinde; mesaj taslağından kod yardımına kadar her yerde. Bu yüzden soru sert geliyor: aynı sistemler bir gün insanlığı tehdit edebilir mi? DW News bölümü, sektörün içinden yükselen kaygı dolu paylaşımların ardından bu soruyu araştırmacılara ve politika uzmanlarına götürüyor. Ton acil ama meraklı; her iddianın ne kadar ciddiye alınması gerektiğini tek tek soruyor.

Fitili ateşleyen, yaklaşık üç yıl boyunca OpenAI ve Anthropic'te ön eğitim araştırmaları yapan Jacob Coxon'un istifası oldu. Coxon, paylaşımlarında öncü laboratuvarların hayatlarımızla kumar oynadığını yazdı; iddiası, bu sistemleri kuranların özel sohbetlerde on yıl bitmeden hepimizi öldürebilecek bir teknolojiye inandıkları, kameralar önünde ise dilin yumuşatıldığı yönünde. Tehlikeyi bugünkü sohbet robotlarından çok, her denetimi geride bırakabilecek kendini geliştiren süper zekâda görüyor.

Bu çıkış tek bir ayrılık hikâyesi olarak sönüp gidebilirdi; Anthropic'in Hizalama Bilimi ekibine liderlik eden Evan Hubinger açıkça destek vermeseydi. Hubinger, ekiptekilerin teknolojinin insanlığı yok edebileceğine içtenlikle inandığını yazdı, kendi tahminini on yıl içinde yüzde 10'un üzeri olarak koydu ve mevcut modellerin taşıdığı tehlikenin düşük olduğunun altını çizdi. On milyonlarca kez görüntülenen mesajındaki rahatsız edici itiraf şuydu: laboratuvarın süper zekâyı hizalı tutmak için çözülmüş bir planı yok ve rotanın buna vardığı da söylenemez.

Tartışmanın merkezinde özyinelemeli kendini geliştirme fikri duruyor: bir yapay zekâ sisteminin koddan araştırma yöntemine, işlem gücü kullanımına kadar kendi halefini tasarlamaya yardım etmesi. Makine yardımıyla kurulan her nesil, bir öncekinden daha hızlı ve daha opak gelebilir; test ve yönetişimin yetişemediği bir geri besleme döngüsü kurulur. Uyarıcılara göre takvimi on yıllardan yıllara indiren şey tek bir model sürümü değil, bu döngünün kendisi.

Programa RAND Europe'tan katılan, gelişen teknolojiler ve dayanıklılık alanında çalışan araştırmacı kaygıyı meşru buluyor ama kalın bir çizgi çekiyor. Onun anlatımına göre kendini baştan sona daha yetenekli bir şeye dönüştüren tam otonom bir sistem henüz görülmedi. Ancak hipotezin parçaları ortada: araç kullanan, uzun görevler üstlenen ve bazen niyetlenmemiş davranışlar sergileyen özerk sistemler. Dürüst etiket bu yüzden ciddi bir gelecek riski; konuşlu sistemlere dair kanıtlanmış olgu değil.

Yok oluşun somut olarak nasıl gerçekleşebileceği sorulunca adres kontrol kaybı oluyor: araçlara ve altyapıya derin erişimi olan, geri alınamayacak biçimde kötü tanımlanmış bir hedefi kovalayan çok yetenekli bir ajan. Uygarlık ölçeğinde zarara varmak için üst üste başarısızlıklar gerekir: aşırı yetenek, gerçek dünya erişimi, zayıf güvenceler, ıskalanan tespit ve yavaş kurumsal tepki. Her katman tek başına plana değer ölçüde olası; hiçbiri felaketin kaçınılmaz sayılmasını gerektirmiyor.

Siyaset aynı soruya farklı bir dilden cevap veriyor. Yok oluş riski sorulan ABD başkanı topu rekabete atıyor ve Çin'e karşı yaklaşık bir yıllık üstünlükten söz ediyor; uzmanlar bu farkı en fazla birkaç ay olarak tanımlıyor. RAND konuğu çerçeveyi iki başkentin ötesine taşıyıp şirketleri, tedarik zincirlerini ve üniversiteleri de sayıyor; yarış dinamiğinin hızı ödüllendirip güvenlik çalışmasını maliyet kalemi saydığı uyarısını yapıyor. Skor tahtası dağıtım hızı olunca itidal ve şeffaflık yapısal olarak kaybediyor.

Bölüm, güvenilirlik ve çareler faslıyla kapanıyor. Elon Musk çevresi alarmı düzenlemeye davetiye çıkaran incelikli bir manevra olarak küçümserken RAND araştırmacısı niyetlerin sorgulanabileceğini ama hükmün kanıta ve güvencelerin gerçekten iyileşip iyileşmediğine bakılarak verilmesi gerektiğini söylüyor. Somut adresi de veriyor: Avrupa'nın Yapay Zekâ Yasası ve modelleri denetleyip sağlayıcılara ceza kesebilen Yapay Zekâ Ofisi. Sunucu, alttaki yarış yavaşlamadığı için bu tartışmanın geri döneceğini söyleyerek kapatıyor; bıraktığı his, korkunun da yarışın da henüz bitmediği yönünde.