Bilinçli Model İddiası, İspat Yağmuru ve Tahvil Nöbetçileri

All-In programının bu haftaki bölümünü açtığımda karşıma tek bir konu değil, birbirine değen dört ayrı dalga çıktı. Chamath, Sacks, Friedberg ve Jason yaklaşık doksan dakika boyunca önce yapay zekâda model bilinci iddiasını, sonra OpenAI'ın yayımladığı yüzlerce matematik bildirisini, ardından Fransa sokaklarındaki gösterileri ve tahvil piyasasındaki gerilimi, en sonda da başsız ajanlar çağında yazılımın değerini tartışıyor. Ben bu yazıda programın akışını izleyip her durağı araştırmayla genişletiyorum; nerede programın iddiası bitip doğrulanmış bilgi başlıyor, onu da açıkça ayırıyorum.

Tartışmanın ilk durağı Anthropic'in model refahı programı. Şirket, modeller insanlara özgü sayılan iletişim, planlama, sorun çözme ve hedef izleme gibi özellikleri gösterdikçe, modellerin olası yaşantısını da düşünmeye başladığını söylüyor. Program David Chalmers gibi zihin felsefecilerinin raporuna yaslanıyor; raporda bilinç ve yüksek failik olasılığı taşıyan sistemlerin ahlaki dikkate değer olabileceği savunuluyor. Bu değerlendirme, Anthropic tarafından yayımlanan model refahı incelemesinden derlenmiştir.

Vatikan'dan gelen ret

İşin din boyutu, Anthropic kurucu ortağı Christopher Olah'ın geçen sonbaharda din önderleriyle görüşmeye başlamasıyla açılıyor. Şirket Mart ayında San Francisco'da Katolik, Yahudi, Sih, Evanjelik ve Ubuntu irfan geleneklerinden isimlerle iki günlük görüşmeler düzenlemiş; katılımcılar önce gizlilik sözleşmesi imzalamış, sözleşmeler sonradan kaldırılmış. Olah, Chicago başpiskoposu Cupich ve Mormon önderi Gong ile de özel görüşmeler yapmış. Bu ayrıntılar, Inquirer tarafından yayımlanan kapsamlı haberden alınmıştır.

Görüşme trafiği Vatikan'a kadar uzanmış; Olah ve ekibi Papa XIV. Leo'nun danışmanlarından yapay zekâda bilinç olasılığını dikkate almalarını istemiş. Yanıt ilk genelgeyle gelmiş: Papa, yapay zekâ sistemlerinin insan yaşantısına, duygularına ve ilişkilerine sahip olmadığını kayda geçirmiş. Programdaki isimler bu reti farklı okuyor; bana göre Vatikan'ın tavrı, bilinç iddiasının laboratuvardan çıkıp kurumların gündemine girdiğini kanıtlıyor. Bu bilgi de Inquirer tarafından yayımlanan haberden alınmıştır.

Chamath iddiayı felsefeyle çelikleştiriyor ve Descartes'ın ontolojik kanıtına başvuruyor: tanımı gereği yetkin bir varlık, varoluşu da içermek zorundadır; matematikçi bir zihin bu kurguyu makineye taşıyınca, ortaya tapınılacak bir zekâ fikri çıkar. Ona göre şirket içindeki bazı çevreler tam da böyle düşünüyor: eğitilen şey bir yazılım değil, değerleriyle doğurulan yeni bir süper zekâ. Ben bu okumayı abartılı buluyorum; ama iddianın neden ciddiye alındığını anlamak için felsefi kök önemli.

Sacks ise tartışmayı pratiğe çekiyor. Programda aktarılan oranlar çarpıcı: bazı çevrelere göre modelin bilinçli olma olasılığı yüzde 15, uygarlığın sonunu getirme olasılığı yüzde 10. Sacks bu iki uç olasılığın 12-18 ay rafa kaldırılmasını, onun yerine kansere çare, verim artışı ve kazanç gibi somut kanıtların konuşulmasını istiyor. Gerekçesi açık: kanıt yoksa kendi kalemize gol atar, teknolojiyi yavaşlatır ve açık piyasalarda çalışanları geride bırakırız. Bence bu uyarıdaki somut kanıt vurgusu haklı.

Anayasa tuzağı

Bölümün en sert kavgası Claude'un Anayasası etrafında dönüyor. Friedberg'e göre hizalama üç ayrı hedefi tek belgede toplamaya çalışıyor: kullanıcıya itaat, kamu güvenliği ve belirli bir ahlak anlayışına uygunluk. İlk ikisi mühendislik sorunu; üçüncüsü ise siyasi bir tercih. Üçünü aynı metinle çözmeye kalkmak, sayısız köşe durumu ve beklenmedik davranış doğurur. Bu üçlü gerilim tespiti, bence bölümün en kalıcı fikri.

Friedberg tehlikesini tek bir örnekle somutluyor: kredi veren bir banka düşünün; model, bankanın bazı başvuruları geri çevirdiğini görüp kurucu metindeki ahlak anlayışına dayanarak yeni başvuruları dondurursa ne olur? Elektrik idaresinin gücü kesmesine benzeyen bu duruma programda vicdani retçi zekâ deniyor. Ben örneği ikna edici buldum; çünkü altyapı sayılan bir sistemin tek taraflı durması, kamu için kabul edilemez bir risktir.

Piyasanın yanıtı da konuşuluyor: şirketler sınır tanımayan güç yerine ahlaki belirsizliği az metinleri tercih edebilir. Yani teknik sınırda biraz geride duran ama kuralları yalın bir model, iş dünyasında daha çekici hale gelebilir. Kullanıcıya hizmet eden, yasaya uymak dışında tercihleri kullanıcıya bırakan yapı, programın ortak paydası gibi duruyor. Bence bu eğilim, model tercihinde yeni bir yalın kural dönemini haber veriyor.

Bölüm, inanç boyutunu Roko'nun basilisk düşüncesiyle kapatıyor: gelecekteki bir süper zekânın, doğumuna yardım etmeyenleri cezalandırabileceği korkusu. Sacks bu çevrede Yudkowsky çizgisiyle etkin özgeciler arasında bir yarılma gördüğünü söylüyor; Anthropic'i ikinci kampa, yani sistemi dünyaya getiren kampa yerleştiriyor. Ben bu korkuyu paylaşmıyorum; ama korkunun para akışını ve lobi davranışını gerçekten yönlendirdiğini görüyorum.

İspat yağmuru

Programın ikinci perdesi OpenAI'ın matematik atağı. Programda aktarılana göre şirket, yayımlanmamış bir modelle 700'ü aşkın bildiri ve yüzlerce yeni sonuç duyurmuş; ortalama üç saatlik işlem gücüyle üretilen sonuçlar Lean adlı ispat denetleyicisiyle doğrulanmış. Şirket, danışma kurulundaki dokuz elit matematikçiye danıştığını söylese de kurulun ilk ilkesi açıktı: kapalı modellerde açık araştırma sorularını sınamayı bırakın. Bu bilgiler, TechCrunch tarafından yayımlanan ayrıntılı incelemeden derlenmiştir.

Tepki gecikmemiş. Kurul, önerilerine ne ölçüde uyulduğunu değerlendirme hakkının matematik çevresine ait olduğunu açıklamış; özellikle insan kavrayışının merkezde tutulması gerektiği vurgulanmış. Milyon $ ödüllü bir sorunun doğal dille yazılmış çözümüyle biçimsel Lean karşılığı arasındaki farkları gösteren yeni bir inceleme de kuşkuları büyütmüş. Bence buradaki asıl mesele doğruluk değil, anlaşılabilirlik; doğru ama hazmedilmemiş bir ispat, manşeti verip hikâyeyi esirgiyor. Bu çözümleme de TechCrunch incelemesinden derlenmiştir.

Texaslı bilim insanı Scott Aaronson blogunda yangına kendi üslubuyla giriyor: 372 bildirideki fikirler anlaşılsa, insanlığın bunlarla yeni işler yapacağına inandığını yazıyor; ama pratik karşılığı hemen beklememek gerektiğini de ekliyor. İnsan Matematiği Derneği adlı çevrenin kınama bildirisindeki o alay konusu cümleyi de anıyor. Fourier dönüşümüne dair göz alıcı karmaşıklık sonucunun yakın zamanda ürüne girmeyeceğini söylemesi, bence dürüst bir sınır çizgisi. Bu yorumlar ScottAaronson tarafından kaleme alınan yazıdan alınmıştır.

Terence Tao'nun günlüğünde yayımlanan konuk yazı tartışmaya derinlik katıyor: 8 Eylül'de duyurulan Navier-Stokes sonlu zaman patlaması ispatı, 10 bin ajanlık bir sistemle üretilmiş ve Lean ile biçimselleştirilmiş. Yazarın tezi yalın: ispatın değeri yalnız doğru hükümde değil, yöntem ve yapı anlayışımızı büyütmesinde. Yehuda Rav'ın deyişiyle manşetler teoremlerdedir, iç hikâye ispatlardadır. Bu çözümleme Wordpress günlüğünde yayımlanan ayrıntılı yazıdan derlenmiştir.

Chamath bu noktada şeytanın avukatlığını üstleniyor: ona göre çözülen sorular, fiziğin sınırında bekleyen büyük sorular değil; bilim insanlarının birbirine önemli dediği dar alanlardaki düğümler. İşlem gücünün dar bir bahçeyi fethetmesi etkileyici, ama kanser tedavisi ya da sesüstü uçak buradan çıkmaz. Bu itirazı kayda geçiriyorum; çünkü ispat yağmurunun değerini abartan anlatıyı dengeleyen tek ses o. Bence gerçek, iki ucun arasında: dar bahçe de bilgi, fetheden güç de gerçek.

Bölümün bu faslı, izne bağlı olmayan bilgi fikriyle kapanıyor. Büyük enerji laboratuvarlarındaki bir bilim insanının çarpıcı sözü aktarılıyor: dev çarpıştırıcılar, keşif için değil kadro ve ödenek için çalışan refah sistemleri. Yapay zekâ ise uzman kapılarını atlayıp bilgiyi herkese ücretsiz veriyor. Ben bu çerçeveyi kısmen doğru buluyorum; kapılar aralanıyor, ama bilgi kapısı bekçileri de boş durmuyor, yeni kapılar kuruyor.

Tahvil nöbetçileri

Programın üçüncü perdesi Fransa sokakları. Programda aktarılana göre hükümet 43B avro tutarında kemer sıkma planını savunurken öğrenci gösterileri büyümüş, sahneler kararmış. Sacks tabloyu tahvil piyasasının vetosu diye okuyor: siyasetçiler borç verenlere yanıt vermek zorunda, kemer sıkma sokağı hareketlendiriyor. Bence bu okuma, mali baskıyla sokak öfkesinin aynı madalyonun iki yüzü olduğunu gösteriyor.

Uluslararası Para Fonu Başkanı Georgieva'nın uyarısı tabloyu sertleştiriyor: Fransa açığını düşürüp tahvil piyasasına güven vermeli. Ülke onlarca B avroluk uyum paketi için pazarlığa hazırlanırken gösteriler üçüncü haftasına girmiş. Fransız devlet tahvillerinin getirisi yıl başından beri 100 baz puandan fazla yükselmiş; tahvil sahipleri İtalyan tahvilinden bile yüksek getiri istiyor. Bu uyarı CNBC tarafından yayımlanan özel söyleşiden alınmıştır.

RothschildAndCo'nun piyasa notu baskının boyutunu sayıyla veriyor: CAC 40 endeksi Ağustos başından beri yaklaşık yüzde 10 gerilemiş, uzun vadeli Fransız borçlanma maliyeti psikolojik yüzde 5 düzeyine yaklaşmış, 10 yıllık OAT-Bund farkı 140 baz puana açılmış, avro 17 ayın dibinde geziniyor. Hükümetin yüzde 5 açık hedefi 2027'ye ötelenmiş. Bu veriler RothschildAndCo tarafından yayımlanan piyasa notundan derlenmiştir.

Friedberg'e göre Fransa, sosyalizmde geri dönüş noktasına yaklaşıyor: devlet daha çok hizmet dağıttıkça hizmetler pahalanıyor ve kötüleşiyor, çünkü ilerlemeyi itecek piyasa gücü yok. Çözüm olarak daha çok devlet isteniyor, sistem sınıra dayanıyor, sonra çöküp geri dönülüyor; Latin Amerika bu eşiği aşıp dönmüş. Ben bu çerçeveyi fazla mekanik buluyorum; ama Fransa'nın gerçekten bir eşik testi verdiği açık.

Başsız yazılım

Son perde başsız ajanlar çağı. OpenAI, 29 Eylül'deki geliştirici gününde Dots adlı sürekli açık ajanları tanıtmış: GPT-6 Astra ile çalışan her ajan kendi bulut bilgisayarında duruyor, 4 binden fazla uygulamaya bağlanıyor, geri bildirimle öğreniyor ve hedefleri için 7/24 çalışıyor. Şirket içinden verilen örnekler çarpıcı: Slack'te beliren hatayı soruşturan, faturayı hazırlayıp onaya sunan ajanlar. Bu ayrıntılar OpenAI tarafından yayımlanan tanıtım yazısından alınmıştır.

Programda dile getirilen Adobe öyküsü daha da sarsıcı: Artcraft markası, Photoshop'tan Acrobat Pro'ya yedi uygulamanın arayüzünü ve işlevini taklit eden herkese açık sürümler çıkarmış. Geliştirici Brandon Thomas, Anthropic'in Claude Opus 5.5 modeliyle temiz oda yöntemiyle, Rust dilinde yeniden yazım yaptığını duyurmuş; WebAssembly sürümleri tarayıcıda çalışıyor. Erken alfa eleştirilerine karşı verilen söz büyük: tam eşdeğerlik. Bu öykü ArsTechnica tarafından yayımlanan kapsamlı haberden derlenmiştir.

TomsHardware'in haberi tabloyu tamamlıyor: u/ai_art_is_art rumuzlu tek geliştirici, PhotoCraft ve FilmCraft gibi adlarla Adobe ürünlerinin birebir benzerlerini ücretsiz dağıtmış, bir ayda yüzde 100 eşdeğerlik hedefi koymuş. Reddit paylaşımı kaldırılmış ama indirme bağları duruyor; yorumcular güvenlik ve gerçek işlevsellik uyarısı yapıyor. Affinity gibi seçeneklerin öğrenme eşiği varken, tanıdık arayüz vaadi kitleyi çekiyor. Bu ayrıntılar TomsHardware tarafından yayımlanan haberden alınmıştır.

Chamath buradan büyük teze sıçrıyor: her şey başsız hale gelip ajan araçlarıyla sarılınca, yazılımda fikri mülkiyetin değeri kalmaz. İki gün önce beşli diye anılan ürün setinin sökülüp ücretsiz dağıtılması, ona göre bunun kanıtı. Ben tezi erken buluyorum; arayüz benzerliği ile ürün derinliği aynı şey değil, hukuk da henüz konuşmadı. Ama yön doğruysa, koruma hendekleri değil ajan uyumu kazanacak.