Ajanlar neden nedensel dünya modeline ihtiyaç duyar

Masadaki vazo kırılmış, etrafı minderlerle çevrili bir kedi fotoğrafı düşünün. Anlatıcı günümüzün en güçlü modellerine basit bir soru yöneltiyor: kedi vazoyu itse ne olurdu? Yanıtlar şaşırtıcı biçimde özensiz; bir model minderleri görmezden gelip vazonun tuzla buz olduğunu söylüyor, diğeri benzer bir ezber cümle kuruyor. Sorunun can alıcı yanı, cevabın fotoğrafta değil, fotoğrafın bir adım ötesinde saklı olması. Minder detayı fizik kurallarını değiştirir, ama birliktelik örüntüsü ezberleyen bir ajan bu farkı yakalayamaz. İşte konuşmanın tamamı bu küçük sahneden büyüyor.

Son yılların atılımı tartışılmaz: yapay zekâ sistemleri yüksek boyutlu tahmin işlerinde akıl almaz bir isabet tutturdu. Dil, görme ve pekiştirmeli öğrenme destekli uygulamalarda model üstüne model yağıyor, her hafta yeni bir rekor haberi geliyor. Anlatıcı bu tabloyu bereketli bir dönem diye selamlıyor; bilgisayar bilimiyle uğraşmak için bulunmaz bir zaman. Veri bol, hesaplama gücü bol, mühendis orduları emre hazır. Buraya kadar herkes hemfikir, salonda itiraz eden yok. Ne var ki alkış faslı bitince daha çetin bir soru masaya geliyor.

Sonsuz veri düşünce deneyi

Elimizde sınırsız hesaplama ve sınırsız veri olduğunu varsayalım; Manhattan'ın yarısını kaplayan bir veri merkezi kuralım, mühendis sayısını ona katlayalım. Bu yığın büyüdükçe genel zekâ kendiliğinden doğar mı? Anlatıcı bu soruyu varsayıma dayalı bir sorgu gibi kuruyor ve yanıtın o kadar da açık olmadığını söylüyor. Yığın büyütmek, tuğla üstüne tuğla koymak demek; ama dizilen tuğlaların hepsi aynı harçla örülmüşse duvar yükselir, bina fikri değişmez. Eksik olan şey miktar değil, harç olabilir. Bu noktada salonun havası değişiyor, çünkü iddia konforlu varsayımları zorluyor.

Alanın öncü isimleri de benzer bir çizgiye gelmiş durumda. Ölçeklemenin tek başına yeterli olmadığını, bir sonraki sıçrama için yeni fikirlere ihtiyaç duyulduğunu söyleyenler var; yalnızca büyütmenin dünyayı anlayan sistemler üretmeyeceğini vurgulayanlar var. Buradaki anahtar sözcük anlama: bir ajan dünyayı gerçekten anlıyor mu, yoksa cümleleri ve kareleri ustaca mı sıralıyor? Anlatıcıya göre bu ayrım, nedensellik fikrine dayanıyor. Berkeley sayfasındaki etkinlik duyurusu da konuşmayı güvenilir özerklik arayışının parçası olarak çerçeveliyor; 5 Ekim 2026 tarihli Trustworthy AI çalıştayı, halüsinasyonlardan güvenilirliğe uzanan bir hat çiziyor. Bu bilgi Berkeley kaynağından elde edilmiştir.

Resmin solunda gerçek dünya, sağında ajan var; ikisi arasındaki etkileşim çizgisini Turing çizmişti: yaşantıdan öğrenen makine. Anlatıcı bu çerçeveyi sevdiğini söylüyor ama yaşantı sözcüğünün fazlasıyla yüklü olduğunu ekliyor. Tek bir kaba doldurulan yaşantılar aslında birbirinden çok farklı; çuvalı açıp içindekileri ayırmak gerekiyor. ACM çizgisindeki Pearl özetine göre makine öğrenmesinin önündeki iki büyük engel uyum ve açıklanabilirliktir; sistemler görmedikleri koşullara uyum sağlayamıyor, kararlarının gerekçesini anlatamıyor. Bu bilgi ACM kaynağından elde edilmiştir.

Yaşantıların üç türü var. Birincisi seyirci konumu: ajan elini arkasına bağlamış dünyayı duyu organlarıyla izliyor, olup biteni kaydediyor. İkincisi müdahale: sisteme dalıp düğmelere basıyor, eşyayı kurcalayıp kendi eylemlerinin etkisini ölçüyor. Üçüncüsü ise zihinsel benzetim: köşesine çekilip olacakları zihninde canlandırıyor, pişmanlık ve sorumluluk gibi fikirlerin hammaddesini burada üretiyor. Üçü de yaşantı sayılıyor ama mantıksal yapıları bambaşka; aynı kaba konmaları, farklı dilleri tek sözlükle okumaya benziyor.

Nedensellik merdiveninin üç basamağı

Bu üç yaşantı türünün formel karşılıkları Judea Pearl'ün nedensellik hiyerarşisinde toplanıyor; ekip içinde PCH diye anılan bu yapı, meraklısına The Book of Why önerisiyle sunuluyor. Dilbilimdeki Chomsky katmanlarına benzetilen bu merdiven, hangi sorunun hangi dille sorulabileceğini gösteriyor. Birinci basamak birliktelik dili: gözlemlenen örüntüler, koşullu olasılıklar, tahmin. İkinci basamak müdahale dili: düğmeye basılsaydı ne olurdu sorusu, eylemle gelen bilgi. Üçüncü basamak ise karşı-olgusal dil: olan olmuşken, olmasaydı ne olurdu sorusu. Her basamak bir öncekini kapsıyor ama ona indirgenemiyor; üst basamağın soruları alt basamağın sözlüğüyle kurulamıyor.

Nedensel yapay zekâ kitabının taslak izlencesi bu merdiveni ders ders işliyor; giriş bölümünde PCH güdüsü veriliyor, ikinci kısımda yapısal nedensel modeller ve diyagramlar anlatılıyor, ilerleyen haftalarda müdahale hesabı ve karşı-olgusal temeller geliyor. Bu bilgi causalai-book kaynağından elde edilmiştir. İkinci basamağın model dilleri karar verme kuramının tanıdık yapıları: nedensel Bayes ağları, Markov karar süreçleri, kısmi gözlemli süreçler. Pekiştirmeli öğrenmenin bu resimde nerede durduğu ayrı bir dersin konusu; anlatıcı, pekiştirmeli öğrenmeyi nedenselliğe giren dar bir kapı sayıyor ve asıl alanın çok daha geniş olduğunu vurguluyor. Müdahale dili, eylemle dünyayı yoklayıp bedelini ve getirisini ölçen bir ajan için zorunlu sözlük işlevi görüyor.

Üçüncü basamağın simgesel örneği ilaç ve hasta kurgusu: hasta ilacı almış ve ölmüş; soru, ilacı almasaydı yaşar mıydı? Bu cümle dünyada tekrarlanarak sınanamaz; ölmüş birine ikinci bir yaşam şansı tanınmıyor. Yine de soru anlamsız değil; nedensel bir model elimizdeyse bu cümlenin doğruluk değeri hesaplanabiliyor. İnsan zihni bu dili durmadan konuşuyor: geriye bakma, içe bakış, sorumluluk atama, pişmanlık. Kredi atama ve suçlama gibi fikirlerin tamamı bu basamakta kök salıyor. Günümüz makine öğrenmesi dillerinde bu katmanın karşılığı yok; eldeki sözlükler olanı ve olabilecek olanı anlatıyor, olmamış olanı değil.

Katmanlar arası çıkarım, işin en çetin düğümü. Gözlem dağılımından müdahale dağılımını sentezlemek, dünyaya dokunmadan dokunmanın etkisini kestirmek demek; nedensellik alanının ana uğraşı bu. Bir adım ötede daha sert bir soru duruyor: gözlem ve müdahale verisiyle karşı-olgusal yargıya varılabilir mi? İki ayrı bilgi kırıntısının naif birleşimi üçüncü tür bilgiyi vermiyor; arada formel bir köprü gerekiyor. arXiv üzerindeki güçlü etmen çalışması bu sez­giyi teoremleştiriyor: geniş bir dağılım kayması kümesinde pişmanlık sınırını tutturan her ajan , veri üreten sürecin yaklaşık nedensel modelini öğrenmek zorunda. Bu bilgi arxiv kaynağından elde edilmiştir.

Beş yeteneklik yol haritası

Anlatıcı buradan bir ölçüt listesi çıkarıyor; nedensel zekâ sayılmak için beş yetenek şart. Birincisi nedensel ve karşı-olgusal üretim: istenen müdahalenin dünyadaki karşılığını doğru canlandırma. İkincisi nedensel anlama ve açıklama: kararın gerekçesini dünyaya atıfla anlatma. Üçüncüsü verimli ve isabetli karar: az denemeyle doğru eylemi seçme. Dördüncüsü genelleme ve dayanıklılık: görmediği koşullarda dağılmama. Beşincisi keşif: dünyaya dair yeni ilkeler bulma, tabula rasa başlayan bir mini bilim insanı gibi. Mevcut yapay zekâ sistemleri bu listede neredeyse boş çekiyor; iddia sert ama salonun ana akımına yön veriyor.

Üretim yeteneğinin sınavı abajur örneği: düğmeli, fişi çekili bir masa lambası fotoğrafı gösterilip düğmeye basılsa ne olur diye soruluyor. Dünyayı bilen biri karanlığın süreceğini söyler; fiş çekiliyken düğme yalnızca tıkırtı üretir. Modeller ise ışıkların yanacağını anlatan coşkulu paragraflar yazıyor, çünkü metinlerde düğme ve ışık yan yana geçiyor. Token birliktelikleri fizik kurallarının yerini tutmuyor; düğme sözcüğü ışık sözcüğünü çağırınca model gerçekliği değil çağrışımı resmediyor. Yüzlerce benzer denemede tablo değişmiyor; hata tekil bir kaza değil, sistematik bir körlük.

Açıklama cephesinde renkli rakam çalışması var: rakamın biçimi mi yoksa rengi mi karar verdiriyor? Standart atıf yöntemi iki farklı model davranışını ayırt edemiyor; biri rakama bakarak doğru yapıyor, öteki renge bakarak kopya çekiyor, ama atıf haritaları tıpatıp aynı çıkıyor. Nedensel karşı-olgusal yöntem ise perdeyi aralıyor: kopyacının kararının renge dayandığını, sağlam modelin biçime baktığını söylüyor. Milyonlarca saatlik hesaplama ve doktora emeği, yanlış soruyu soran yöntemlerle heba oluyor; verideki çağrışımlara hapsolmuş bir mercek, dünyadaki gerçek mekanizmayı gösteremiyor. Bu noktada klasik açıklanabilirlik araçlarının nedensellikten yoksunluğu, alanın en pahalı kör noktası olarak resmediliyor.

Pong oynayan bir dünya modeli sınaması, kredi atama sorununu oyun salonuna taşıyor: arada kareler karartılıyor, başarım çakılıyor, suçlu geçiş aranıyor. Nedensel olmayan yöntemler suçu her geçişe paylaştırıyor; ortalıkta parmakla gösterilen onlarca aday var ama hiçbiri tutarlı değil. Nedensel yöntem ise tek bir geçişi işaretliyor; o tohumdaki 536 numaralı geçiş, düşüşün sorumlusu olarak saptanıyor. Mekanistik yorumlama merakı bu örnekle nedensellik zeminine çekiliyor: iç katmanları açmak yetmez, açılan katmanların dünyadaki karşılığını sormak gerekir. LLM içgörü araçlarının çoğu bu soruyu sormadığı için, anlatıcıya göre, ölçek büyüdükçe açıklama borcu da büyüyor.

Akışkanlık ile anlama arasında

Kapanışta iki eksen çiziliyor: akışkanlık ve anlama. Günümüz dil modeli ürünleri akışkanlık ekseninde parlıyor; cümleler pürüzsüz, görseller göz alıcı, videolar ikna edici. Nedensellik camiası ise anlama ekseninde derinleşmiş ama akışkanlıktan uzak kalmış; dili matematiksel, erişimi dar. Hedef, iki ekseni tek sistemde buluşturan bir birleşme: İngilizce gibi akan ama dünyayı nedensel kavrayan bir yapay zekâ . Anlatıcı bunun yara bandıyla olmayacağını söylüyor; iki dili üst üste yapıştırmak, kuantum kuramıyla göreliliği bantla tutturmaya benziyor. Bu çağrı özellikle genç araştırmacılara yöneltiliyor ve kuşağın ana sorunu diye çerçeveleniyor. Bu noktadaki satranç gözlemi Yosefk kaynağından geliyor: model açılışta ezber hamlelerle parlıyor, zayıf hamleler gelince dokuzuncu hamlede olmayan bir atı oynatmaya kalkıyor; tahta durumunu izlemeyen bir sistem, hamleleri sıralasa da oyunu anlamıyor. Bu bilgi yosefk kaynağından elde edilmiştir.

Destekleyici kanıtlar iki koldan geliyor. Bir yanda arXiv çalışmasının savı: sağlam genelleme ile nedensel model öğrenme arasında teorem düzeyinde bağ var; pişmanlık sınırını tutturmak isteyen ajan er ya da geç dünyanın mekanizmalarını çıkarmak zorunda. Öte yanda güncel karşı-olgusal akıl yürütme ölçümleri, büyük modellerin bildik bilgiyle yeni bilgi çakışınca ezbere sığındığını gösteriyor. Anlatıcının laboratuvar sayfası bu programın kurumsal karşılığını veriyor: Pearl danışmanlığında doktora, Columbia bünyesinde nedensel yapay zekâ laboratuvarı, pekiştirmeli öğrenmeden adalet analizine uzanan yayın çizgisi. Bu bilgi causalai kaynağından elde edilmiştir.

Toparlayıcı çerçeve, MIT Press yolundaki nedensel yapay zekâ kitabı: olasılık kuramıyla nedensel çıkarımı ve karar kuramını tek yol haritasında birleştiren, güvenlikten genellemeye uzanan ders izlencesi. Konuşma bu kitabın kamuya açık provası gibi duruyor; kedi ve lamba örnekleri birinci yeteneği, renkli rakam ve Pong örnekleri ikinci yeteneği taşıyor. Pekiştirmeli öğrenme ve nedensel oyun kuramı gibi başlıklar ise zamana sığmayıp kitaba havale ediliyor. Güvenilir özerklik isteyen okur için mesaj net: ajan kuruyorsan dünya modelini nedensel kur, akışkan cümlelere aldanıp anlamayı ıskalama.