Milyarlarca Jeton Değil, Karar Değil: Jev ve NASA Ay Modelinin Ortak Sorusu

Eylülün üçüncü haftasında iki gelişme, görünürde birbirinden çok farklı dünyalarda gerçekleşti. Biri San Francisco merkezli bir yapay zeka laboratuvarında, diğeri Washington ile Yorktown Heights arasında, Ay yüzeyini tarayan veri kümeleri üzerine. Ortak soru şuydu: bir modelin görevi gerçekten daha çok metin üretmek mi, yoksa daha az metinle daha doğru karar vermek mi? İki taraf da ikinci cevaba yöneldi.

TypeSafe tarafındaki ürün Jev. Şirket, bunu bir sohbet modeli değil, bir karar modeli olarak konumlandırıyor: yazılımın sorusunu alıyorsunuz, karşılığında tipli değerler ve bunlara eşlik eden olasılıklar dönüyor. Modelin üretken bir metin üretmesi yerine, yazılımın doğrudan dallanabileceği sabit bir şema üretmesi hedefleniyor. Sitenin kendi ifadesiyle model, önceden tanımlanmış olası çıktılar kümesi dışına çıkamıyor; bu da tip hatasını yapısal olarak imkânsız kılıyor.

Bu tasarımın teknik sonucu önemli. Geleneksel bir dil modeli cümle üretirken her adımda sıralı ilerler: bir jeton üretilir, sonraki onun üzerinden kurulur. Donanım tarafında bu, her adımda model durumunun okunup geri yazılması anlamına gelir. Jev'de ise tüm çıktılar tek sorguda paralel üretiliyor. Hız ve maliyet farkının kaynağı büyük ölçüde bu mimari değişiklik, yani yeni bir matris çarpma yöntemi değil, donanıma ne sorulduğunun değiştirilmesi.

Jev'in farklı kıldığı ikinci konu kalibrasyon. Bir model yüzde 60 eminim derse, bu sayının gerçekten yaklaşık yüzde 60 doğru olması gerekir. Panelde bunun sadece bir zarafet değil, otomasyonun ön koşulu olduğu vurgulandı: bir işi yüzde 95 oranında yapan ama kalan yüzde 5'te nereye düşeceğini söyleyemeyen model, o işi otomatikleştirilemez. Kalibre edilmiş bir güven skoru, eşiği kimin ve nasıl belirleyeceği sorusunu da öne çıkarıyor.

Bu ayrımın teknik bir karşılığı var ve panelde üzerinde duruldu. Olasılık, dağılımsal ve matematiksel bir tanımdır; güven ise daha çok bir eşik kararıdır. Arayüzde kullanıcıya tek bir sayı veriliyorsa, aslında bir olasılık dağılımı ve üstünde seçilmiş bir eşik gösteriliyor demektir. Bu eşiği kim, hangi veriyle belirliyor sorusu modelin değil, uygulamanın sorusudur. Jev'in iddiası, çıktıların birbirine gore siralamasinin tutarli oldugu yönünde.

Panelin farklı çekimserleri aynı noktaya işaret etti. Bir yanda, bu modellerin LLM'lerin yaptığı her iş için uygun olmadığı, yalnızca belirli bir alt küme için anlamlı olduğu vurgulandı: sınıflandırma, yönlendirme, puanlama. Öte yanda, doğrusal programlama modellerinin sıralı mantığı gevşetip yalnızca karar noktalarında böyle bir model çağırabileceği, böylece yazılımın geri kalanının belirlenimci kalabileceği öne sürüldü. Bu, modeli sohbet kutusundan çıkarıp bir bileşen haline getiriyor.

Fiyatlandırma da aynı fikrin ticari tarafı. Jev, milyon jeton giriş için 0,042 dolar, çıktı için ise ölçüm altına düşeceği kadar düşük bir tarife ile konumlandırılıyor. Karşılaştırma tablosundaki devasa fark, bir modelin yazılım içinde saniyede yüzlerce kez çağrılabileceği gerçeğiyle ilgili. Kullanıcıya metin göstermek için tasarlanmış bir model, bu kullanım deseninde hem pahalı hem de yavaş kalır.

Ancak burada da bağımsız ölçüm gerekiyor. Şirketin kendi iş akışı testleri çok büyük kazançlar bildiriyor; aynı dönemde bağımsız değerlendirmeler, pahalı sınır modelleriyle kıyaslandığında çok daha küçük ama gerçek bir hız ve maliyet avantajına işaret ediyor. Bu iki tür rakam arasındaki mesafe, şirketin seçtiği karşılaştırma tabanına bağlı. Karar verirken ücretlendirme sayfasındaki güncel rakamları kendi senaryonuzla yeniden ölçmek gerekiyor.

İkinci büyük gelişme, IBM ile NASA arasında. Eylülün onunda iki kurum, Ay keşfi için açık kaynaklı bir temel model yayımladı. Modelin arkasındaki veri seti, dört görevden dokuz aletin verilerini uzamsal olarak hizalayarak otuzdan fazla katmandan oluşuyor. Daha önce bu tür çok modlu, çok çözünürlüklü veriyi makine öğrenmesine hazır hâle getiren tek bir kamuya açık veri seti yoktu; bu boşluğu dolduruyor.

Modelin iki somut sonucu var. Birincisi, yüksek buz potansiyeli taşıyan bölgeleri belirlemede hata oranının referans modele göre yüzde 22'ye kadar düştüğü. İkincisi, yaklaşık yüz metrelik bağlam ölçeğinde, referans modeli yarı veriyle yaklaşık yüzde 19 geride bırakması. NASA'nın kendi değerlendirmesi daha temkinli: krater eşleme ve bazı volkanik alanlarda sonuçlar benzer, belirgin üstünlük kutuplu buzun kararlılığını tahmin etmede ortaya çıkıyor. Aynı zamanda yörüngeler arasında değişen aydınlatma koşullarının küçük kraterlerin görünürlüğünü etkilediği not düşülmüş.

Bu modelin asıl değeri, tek bir soruya odaklanmak yerine yeniden kullanılabilir bir temel sunması. Dört farklı görev için ayrı model eğitmek yerine, ortak bir temeli uyarlamak (fine-tune, ince ayar) yaklaşımı benimsenmiş; ağırlıkların büyük kısmı dondurularak küçük uyarlayıcılar kullanıldığı belirtiliyor. Bu, hem daha az eğitim maliyeti hem de topluluk için daha kolay bir başlangıç noktası anlamına geliyor. Bilimsel veri tarafındaki asıl darboğazın çoğu zaman algoritma değil, veri mühendisliği olduğunun somut bir örneği.

Ay verisi özel bir durum çünkü her şey farklı ölçeklerde. Bir görev yüz metrelik, diğeri metre ölçeğinde; bazı katmanlar yüzeyden, bazıları yeraltından geliyor. Bu yüzden veri setini tek bir çözünürlükte hizalamak, modeli eğitmek kadar zorlu bir iş. Panelde tam da bu noktaya duruldu: farklı çözünürlük ve gözlem koşullarını hizalamak, parametre sayısını artırmak kadar belirleyici olabilir. Kısacası temel modelin altındaki asıl iş, kavramsal değil bürokratik.

İki gelişmeyi bir araya getirdiğimizde aynı eğilim görünüyor. Biri kararın kendisini yapılandırılmış ve kalibre edilmiş hâle getirmekle, öteki veriyi tek bir makine öğrenmesi diline indirgemekle uğraşıyor. İkisinde de hedef, modelin ürettiği metnin zenginliği değil, çıktının denetlenebilirliği. Bu, model ekonomisinin yeni birimini de tanımlıyor: üretilen cümle sayısı değil, doğrulanabilir karar sayısı.

Pratikte bu iki yaklaşımı birleştirmek mümkün görünüyor. Sıralı, uzun ve az sayıda adımdan oluşan bir iş akışını belirlenimci bir program iskeleti üzerine kurup, yalnızca dallanma gerektiren noktalarda kalibre edilmiş bir karar modeli çağırmak, hem maliyeti düşürür hem de hata yüzeyini küçültür. Bu desen, yazılım dünyasında zaten var olan bir fikrin yapay zekâya uyarlanmış hâli: kuralı koda yaz, belirsizliği makineye bırak ama hangi eşikte karar vereceğini sen belirle ve kaydet.

Sonuç olarak eylülün bu iki haberi, model geliştirme yarışının nereye gittiğine dair iki farklı ama uyumlu işaret. Bir tanesi ürün sayfasında, diğeri bilimsel veri setinde görünür oluyor. Kalan soru şu: bu tür yapılandırılmış karar modelleri, kendilerini besleyen veri setleri kadar açık ve doğrulanabilir olduğunda, altyapı maliyetini düşürmekten öte, sistemin tamamının güvenilirliğini de yükseltecek mi?