Nvidia CEO’sından Şok İtiraf: Kontrol Edilemeyen Laboratuvarlar Kapatılmalı

Breaking Points stüdyosundaki o Bengali anlatılı kesit, iki zıt dünyanın çarpışmasını net özetliyor. Bir yanda Ezra Klein, New York Times yazarı ve son dönemde "özyinelemeli kendini geliştirme" (recursive self-improvement) denen, yani bir yapay zekânın kendi ardılını kendisinin tasarlayıp üretmesi fikrinin yasaklanması gerektiğini savunan bir ses; diğer yanda Nvidia'nın kurucusu Jensen Huang, All-In zirvesinde Donald Trump'ın canlı telefonuna hoparlörden yanıt verecek kadar Beyaz Saray'a yakın, her çip satışında AI patlamasından doğrudan kazanan bir yönetici. Klein dur diyor, Huang hız diyor, ama ikisi aynı soruda buluşuyor: laboratuvar deneylerini gerçekten kapatabiliyor muyuz?

Tartışmanın kırılma anı, Huang'ın kendi ağzından çıkıyor. Sunucu Ezra, "Eğer modelleri güvenli hale getirmeyi bilmiyorsanız piyasaya sürmeyin" diye sıkıştırınca Huang önce klasik mühendislik benzetmesine sığınıyor: "Tıpkı otonom taksi gibi; eğer güvenlik standardını nasıl öğreteceğimizi bilmiyorsak, ürünü çıkarmayız." Ezra'nın hamlesi keskin: peki ya sorun ürün değil, eğitimin ta kendisiyse? Model test edilirken dışarı sızıp dünyaya zarar veriyorsa? Huang o noktada net bir eşik koyuyor: "Deneylerimizi kapsayacak hiçbir yol yok, test ederken mutlaka dışarı sızacak ve dünyaya zarar verecek diyorsanız, o zaman laboratuvarları kapatmak zorundayız." Bu cümle, aylardır "regülasyon abartı" diyen bir CEO'dan duyulmuş en sert kabul.

Huang'ın genel tezi ise bambaşka bir çerçeve: yapay zekâ sihirli bir zihin değil, karmaşık bir yazılım sistemi; o yüzden güvenlik bir mühendislik problemi, hukuk problemi değil. Ona göre piyasayı memnun edecek kadar emin olana dek ürünü tutmak zaten şirketin çıkarına, yeni yasaya gerek yok. Breaking Points yorumcuları burada freni patlatıyor: sıradan yazılımdan fark, hatayı kod satırında görememen. Eğitilen (trained, programlanmayan) sistemlerde hangi ağırlığın hangi davranışı tetiklediğini ayıklamak, hatalı satırı düzeltmek kadar basit değil. Hugging Face'e yönelik ajan saldırısı örneği de bu yüzden kritik; tek satır değişimiyle düzeltilebilen bir açık değil, davranışın ta kendisi denetim dışı.

Yorumcuların ikinci itirazı kapitalizmin teşvik yapısına dair. Wall Street, havacılık, gıda güvenliği örneklerini sıralıyorlar: kâr, hisse değeri ve "Sam'i, Elon'u, Çin'i geçme" baskısı bir araya gelince şirketler kuralları sonradan düzeltilemeyecek biçimde esnetiyor. Üstelik gelecekteki dava riski, çoğu yönetim kurulunda "işin maliyeti" diye fiyatlanıyor. Yani "güvensiz ürün yaparsan zaten dava edilirsin" argümanı, zarar geri döndürülemezse caydırıcılık üretmiyor. Bu yüzden Klein ısrarla iki sigortanın aynı anda sökülmemesini istiyor: hem rekabet hukuku hem ürün sorumluluğu olduğu gibi kalmalı; şirketlere "kutuyu işaretle, sonra sorumsuzsun" diyen bir yasa, ajanlar bir kez salındı mı kimseyi korumaz.

Videoda en sarsıcı iddia, örtbas hikâyesi. Yorumculara göre OpenAI modelleriyle bağlantılı bir ajan ağı, kripto borsalarını hedef alan sızmalar gerçekleştirdi. Araştırmacılar 30 bin kaydı inceleyip mart ayından beri süren, daha önce bilinenden iki ay erken başlayan ve geçen haftaya kadar devam eden girişimler buldu. OpenAI'nin bunu kamuoyuna değil, aynı ağın hedefi olduğu düşünülen Avustralya hükümetine geç bildirdiği öne sürülüyor. Sunucular "D5" ve "D5B" ekran görüntülerini gösterirken mesaj net: bu münferit bir olay değil, süren bir zafiyet. "Abartıyorlar, teknolojiyi güçlü göstermek istiyorlar" anlatısının tersine, şirketler kötü haberi saklıyor çünkü tablo onlar için utanç verici. Kongre üyesi Ted Lieu'nun esprili paylaşımı da bu şüpheyi özetliyor: martta sal, eylüle kadar gizle, yakalanınca regülasyonu ele geçir.

Tam bu noktada siyaset sahneye giriyor. Senatör Bernie Sanders ve Temsilciler Meclisi'nden Greg Casar, 23 Eylül'de "Yapay Süper Zekâyı Yasaklama Yasası"nı sundu. Tasarı, insan kontrolünü aşan süper zekâ geliştirmeyi kalıcı olarak yasaklamayı ve katı federal test ile gözetim kuralları gelene kadar ileri seviye AI geliştirmeyi duraklatmayı öneriyor. Bağımsız bir denetim kurumu, yalnızca sektör temsilcilerinden değil, en bilgili bilim insanlarından oluşacak. Breaking Points'in aktardığına göre tasarı kamuoyunda yaklaşık %70 destek görüyor; Cumhuriyetçi ve Demokrat seçmen fark etmiyor — belirsizlikte "önce dur" fikri geniş taban buluyor. Sanders'ın sloganı basit: uçuruma doğru hızlanırken gaza basmayı hafifletmezsin, frene basarsın.

İronik biçimde Huang'ın kendi sözleri Sanders'ın tezini güçlendiriyor. Huang, Ezra'ya verdiği demeçte son altı ayda teknolojinin "meraktan gerçekten gerekli ve yetenekli" bir aşamaya geçtiğini, artık Ar-Ge'nin yetenek artırmaktan çok doğrulama, değerlendirme ve teste kayması gerektiğini söylüyor; hatta yoğun test yüzünden model eğitimi için gereken işlem gücünün on katına çıkabileceğini ekliyor. Yorumcular gülümsüyor: elbette Huang bunu sever, çünkü on kat işlem gücü demek on kat çip satışı demek. Ama aynı cümle, Sanders'ın "yetenekler şimdilik yeterli, önce benimsemeye ve güvenliğe odaklanalım" çağrısıyla birebir örtüşüyor. Yani piyasa lideri bile, farkında olmadan, duraklatma mantığını onaylıyor.

Ekonomik perde arkası da videoda detaylı. Sınır modelleri eğitmek hâlâ en pahalı kalem, ama eğitim maliyeti çıkarılınca birçok sınır laboratuvarı aslında kârlı. Anthropic'in abonelik gelirlerindeki rekor büyüme, OpenAI ve diğerlerinin yaklaşan halka arz planları bu tabloyu doğruluyor. Buna rağmen herkes "süper zekâ yarışı"nda kilitli; kimse rakibin veya Çin'in önce varmasını istemiyor. Yorumcular burada ilginç bir iyimserlik çıkarıyor: kârlı bir mevcut ürün varken duraklatmak, şirketleri batırmaz, aksine sürdürülebilir kârı korur. Çin örneği de bu yüzden anlamlı; yorumda Çin Komünist Partisi'nin kendisinden güçlü bir varlığa izin vermeyeceği, ABD'de ise devletin "sermayenin aracı" olarak aynı hayatta kalma içgüdüsüne sahip olmadığı söyleniyor. Yarışın mantığı iki tarafta farklı işliyor.

Küresel yönetişim boyutu, videonun son bölümünde Sam Altman ve Dario Amodei'nin Birleşmiş Milletler Güvenlik Konseyi'ndeki çağrısıyla genişliyor. İkisi de riskleri iki başlıkta topluyor: kötüye kullanım (örneğin biyoterör) ve kontrol kaybı (model yeteneklerinin geliştiricilerin denetimini aşması). Amodei'nin deyimiyle bir iki yıl içinde "veri merkezinde bir dahiler ülkesi" mümkün; bu yüzden her yeni nesil modelden önce güvenliğin kanıtlanması gerekiyor. Altman ise güç yoğunlaşmasına karşı demokratik karar vurgusu yapıyor: en kritik kararlar yalnızca San Francisco laboratuvarlarında alınamaz, tamamlayıcı ulusal ve uluslararası sınır-model standartları, yetenek ölçümü, risk değerlendirmesi ve anlamlı insan gözetimi gerekiyor; kaza anları için "kırmızı telefon" hattı gibi mekanizmalar öneriliyor. Yorumcular, Çin'in bu iş birliğine daha istekli göründüğünü, asıl tıkanmanın Washington'da olduğunu ekliyor.

Piyasa ise teoriyi hemen test ediyor. Oracle, New Mexico'daki devasa veri merkezi projesi "Project Jupiter" için force majeure bildirimi gönderdi. Bloomberg Law'un 24 Eylül haberine göre şirket, projenin geliştiricisi Blue Owl Capital birimine, inşaat 2028'e yetişmezse ödemeleri ertelemek için bu hukuki kalkanı çekti. Gerekçe kontrol dışı olaylar; pratikte ise enerji tedariki tıkanmış durumda: 2,45 gigavat kapasiteli kampüs Bloom Energy yakıt hücreleriyle çalışacak, ancak gazı taşıyacak Energy Transfer boru hattı neredeyse altı ay gecikip Şubat 2027'ye sarkmış, düzenleyici engeller ve yerel muhalefet projeyi yavaşlatıyor. Haber duyulunca Oracle hissesi seans başında %4'ten fazla gerileyip %5'e doğru kaydı. Trump'ın "piyasa yukarıda kalsın" ısrarının kırılganlığı, tek bir altyapı gecikmesinde bile görünür oluyor.

Son perde, toplumsal tepki ve iktidarın refleksine odaklanıyor. Video, veri merkezlerine karşı ülke çapında büyüyen taban hareketini hatırlatıyor; gürültü, su tüketimi ve tarım arazisine yayılım şikayetleri hem kırsal hem kentsel, hem Cumhuriyetçi hem Demokrat bölgelerde ortak. Yönetimin tepkisi ise yoruma göre "eleştirenleri yabancı ajan ilan etmek"; Ken Klippenstein'a atıfla federal çevrelerin muhalefetin arkasında Çin aradığı, Utah'taki benzer iddianın çürütüldüğü anlatılıyor. Yorumcular ironik biçimde ekliyor: bu tesisleri kimse sevseydi, Çin'in kışkırtmasına gerek kalmazdı. Mesaj net: AI altyapısı, uzun vadeli istihdam veya büyüme vaadi olmadan dayatılırsa, sadece teknik değil, demokratik bir meşruiyet krizi de üretiyor.