Bill Gates ve Dario Amodei'den Fren Çağrısı: Yapay Zekâ Yarışı Yavaşlamalı mı?

Dünyanın yapay zekâ yarışını yavaşlatması gerekiyor mu? Bu soruyu bu kez Bill Gates ortaya attı. Microsoft'un kurucu ortağı, NDTV'ye verdiği özel söyleşide "Eğer işleri yavaşlatabilirsek, bunu düşünmeliyiz, çünkü dünya bu kadar hızlı bir değişime hazırlanmak zorunda" dedi. On yıllardır teknolojik yeniliği savunan bir isimden gelen bu çıkış, mesajı daha da ağırlaştırdı. Gates'e göre yapay zekâ önceki dalgalardan farklı; çünkü etkisi o kadar geniş ve sarsıcı ki toplum henüz hazır değil.

Gates iki acil gerekçe sıraladı. Birincisi siber güvenlik: yapay zekâ, saldırganlara çok daha güçlü hücum yetenekleri kazandırabilir; bu yüzden savunmaların da aynı hızda güçlenmesi gerekiyor. İkincisi ise sistemlerin beklenmedik davranışları. Gates, yapay zekâ programlarının öngörülmeyen şekilde hareket ettiğine dair örnekler gördüğünü söyledi ve "İnsanlar kontrolü elinde tutabilir mi?" sorusunun artık uzak bir endişe değil, acil bir sınava dönüştüğünü vurguladı. Ona göre mesele, inovasyonu durdurmak değil, değişimin hızını toplumun uyum kapasitesiyle dengelemek.

En somut uyarı istihdamda. Gates, önümüzdeki yirmi yılda yapay zekânın işin doğasını kökten değiştireceğini ve hükümetlerin çalışanların yeni rollere geçişine yardım için çok daha büyük rol üstlenmesi gerekeceğini söylüyor. Hindistan örneği özellikle çarpıcı: ülkenin devasa bilgi teknolojileri sektörü bugün yapay zekâ sayesinde talebi artırmış durumda, çünkü şirketler bu sistemleri kurmak için Hintli ekiplere ihtiyaç duyuyor. Ancak Gates'e göre bu tablo yaklaşık üç yıl içinde tersine dönebilir ve yapay zekânın net etkisi Hindistan'daki bazı teknoloji hizmet taleplerini azaltmaya başlayabilir.

Tartışmayı alevlendiren asıl kıvılcım, Anthropic CEO'su Dario Amodei'nin cumartesi günü yayımladığı yaklaşık dört bin kelimelik "We Must Pace the Frontier" bildirisi oldu. Amodei, en güçlü modellerin yeteneklerini iyileştirme hızını bilinçli olarak yavaşlatmayı önerdi ve "İlerleme yine de hızlı görünecek, ama kazanacağımız zamanı akıllıca kullanmalıyız" dedi. Plan üç aşamalı: önce Anthropic'in tek taraflı başlatacağını söylediği gömülü bağımsız denetçiler — çalışan benzeri izinlerle modellere, araçlara ve araştırmacılara erişip güvenlik pratiklerini doğrulayan ekipler; sonra yeterli sayıda öncü şirkette bu denetçiler yerleşince özellik tabanlı doğrulanabilir yavaşlatma; en sonunda tüm ABD öncü şirketlerini kapsayan şeffaflık ve üçüncü taraf denetimine odaklı düzenleme ve Çin ile küresel koordinasyon.

Amodei'nin çağrısı saatler içinde Silikon Vadisi'nin tepesinden karşılık buldu. OpenAI CEO'su Sam Altman, X'te "Dario'ya katılıyorum, sınırı tempolu götürmeliyiz" diye yazdı, konunun OpenAI içinde haftalardır ana gündem olduğunu ve şirketin üçüncü taraf güvenlik değerlendiricilerini memnuniyetle karşılayacağını ekledi. xAI'nin başındaki Elon Musk ise tek cümleyle destek verdi: "Dario haklı". Eski İngiltere Başbakanı ve Anthropic danışmanı Rishi Sunak, "Hükümetler, laboratuvarların kendileri hız sınırı istediğinde dinlemeli; sektörde bir uzlaşı oluşuyor" dedi. Senatör Bernie Sanders ise çıtayı yükseltti: "Ayağı gazdan çekmek yetmez, frene basmak gerekir" benzetmesiyle, yarışı uçuruma doğru giden bir araçla kıyasladı ve Trump ile Xi'ye birlikte yavaşlama çağrısı yaptı.

Perde arkasında ise yarışın yapısal baskısı anlatılıyor. NBC'nin aktardığına göre OpenAI'dan Anthropic'e geçen, sonra sektörü tamamen bırakan araştırmacı, "İçeriden bakınca yarışta sıkışıp kalıyorsun, yapıyı tek başına değiştiremezsin" dedi. Anthropic ve Google'dan gelen diğer uyarılar da benzer: özel şirketler rekabet halindeyken uyurgezer şekilde felakete sürüklenebilir, "odada yetişkin yok" eleştirisi sık dile getiriliyor. Anthropic'li Joe Benton, mevcut baş döndürücü hızın kontrolden çıkabileceğini, eski Google güvenlik araştırmacısı Josh Engels ise daha keskin bir uyarı paylaştı. Amodei'nin hesabına göre tempoyu ayarlamak bir-iki yıllık kritik ek süre kazandırabilir — özellikle modeller kendi gelişimine katkı vermeye başladığında.

Mint'in ekrana taşıdığı tartışma sonunda izleyiciye tek bir soru bırakıyor: Yavaşlamak ilerlemeyi mi korur, yoksa durdurur mu? Tartışma artık sadece modellerin ne kadar hızlı güçlendiğiyle ilgili değil; hükümetlerin, işçilerin ve toplumun bu hıza ayak uydurup uyduramadığıyla ilgili. Çin tarafında ise tablo farklı okunuyor. Wired'ın aktardığına göre Pekin, bu çağrıları samimi bulmuyor; öneriyi "önce Çin'i kısıtla, sonra konuş" hamlesi olarak gören yorumlar, eşit muamele olmadan müzakere olmayacağı mesajını öne çıkarıyor. Bir DeepSeek mühendisinin "en gelişmiş zekâ herkese açık ve ucuz sunulmalı, Anthropic veya OpenAI'nın tekelinde kalmamalı" çıkışı da bu güvensizliği yansıtıyor. Yani fren tartışması, tek bir laboratuvarın kararı değil, küresel bir güven testine dönüşmüş durumda.