Yapay Zeka Neden Uydurur: Doğru Parçalar Nasıl Yanlış Bağlanır

Video açılıştaki deneyle başlıyor: araştırmacılar Andrej Karpathy adına bir makale isteyince model neredeyse her detayı doğru verip bağlantıyı bozdu; önerilen meşhur görsel tanıma makalesi gerçekte AlexNet, yazarları Krizhevsky, Sutskever ve Hinton, Karpathy değil. Üç ismi kontrol etmek, ağ mimarisi bilgisi olmadan da hatayı yakalamaya yetiyor; gündelik ödev veya bilgi taramasında bu tür inandırıcı ama yanlış eşleşmeler sessizce sızabiliyor.

Nedeni eğitim görevinde: pek çok dil modeli bir sonraki ögeyi tahmin ederek öğreniyor ve bu sayede olguları, eş oluşumları kitaptan değil örnek sıklığından çıkarıyor. İnandırıcı cümle kurmak, iddiayı bağımsız doğrulamak anlamına gelmiyor; model olasılıklı tamamlamada ustalaşırken doğruluk denetimi ayrı bir mekanizma olarak gelmiyor.

Videodaki kütüphane editörü benzetmesi bunu görünür kılıyor: bütün kitaplığı okumuş, hangi fikirlerin yan yana durduğunu ezberlemiş bir editör, eksik bilgiyi akıcı metinle doldurabiliyor. Model kitap karıştırmıyor; bilgisi sayısal değerlere kodlanmış durumda. Tahmin oyunu her şeyin yüzeysel otomatik tamamlama olduğu anlamına da gelmiyor; Dallas örneğinde araştırmacılar şehirden eyalete, oradan başkente giden bir iç yol buldu ve iç gösterimi Texas yerine California yapınca yanıt Austin yerine Sacramento oldu; yolun işlevsel olduğu doğrudan gösterildi.

İkinci zayıflık yanıt eşiğinde: sistemler tanıdık ve yabancı isimlere dair iç sinyaller taşıyor ve bu sinyallerle oynamak bilinmezliği kabul etmek ile yanıt üretmek arasında geçişi değiştirebiliyor. Tanıdık bir ismi tanımanın tetiklediği eşik aşımı, ilgili bilgi yokken bile tanıdık bir makalenin seçilmesine yol açabiliyor. Bu mekanizma her hatayı açıklamaz ama konuya aşinalık ile belirli bir soruya dair bilgiyi ayırmayı sağlıyor.

Değerlendirme biçimi de davranışı şekillendiriyor: video 100 soruluk düşünce deneyiyle anlatıyor, sistem 80 yanıtı biliyor, 20’sinde bilgisi yok, temkinli olan 80’de kalıp susarken tahmin eden 15 yanlışa karşı 5 doğru ekleyip 85’e çıkıyor; tek puanlı test susmayı ödüllendirmiyor. 2025 tarihli bir analiz, yaygın testlerin bu yüzden tahmini teşvik edebileceğini savunuyor ve her yanlışa iki puan ceza eklenince aynı yanıtlarla sıralamanın tersine döndüğünü gösteriyor: temkinli 80 kalırken tahmin eden 55’e düşüyor. Hangi bedelin daha ağır olduğu uygulamaya göre değişir.

Daha uzun açıklama da tek başına çare değil: başka bir bulgu, erken bir hataya kilitlenen modelin onu destekleyecek ek hatalar üretebildiğini gösteriyor. “Karpathy bu makaleye ne kattı” gibi zaten yanlış öncül taşıyan bir soruyu olduğu gibi kabul etmek, ikna edici kurgu hikâyeye dönüşebiliyor. Dış belgelerle besleme doğruluğu artırabiliyor ama bağlantı tek başına doğru atfı kanıtlamaz; kaynağın makalenin varlığını göstermesi yetmez, aranan ismin yazar listesinde gerçekten yer alıp almadığını tek tek kontrol etmek gerekir.

Pratik ders üç isimde gizli: inandırıcı anlatı içinde bile kritik denetim, doğru görünen parçaların kurduğu bağlantıda yapılıyor. Üretim öncesi yanıtı kendi kaynağıyla karşılaştırmak, özellikle atıf, isim ve sayı içeren iddialarda, hızlı bir yazar listesi veya kaynak karşılaştırmasıyla hatayı ucuza yakalatıyor. Bağlantı doğru değilse, parçaların tek tek doğruluğu bütünü kurtarmıyor.