Sincap Beyinli Çip: Naveen Rao'nun 4D Bilgisayarı ve Yapay Zekânın Enerji Duvarı

Doomer Karşıtı Bir Açılış

All-In Podcast sahnesi alışıldık bir kurumsal sunum değildi, daha çok bir iddia sahnesiydi. Naveen Rao, kendini açıkça kıyamet anlatısının karşısında konumladı ve yapay zekâyı insanlığın bir sonraki evrimsel basamağı olarak çerçeveledi. Ona göre bu sıçramayı yazılım ölçeği tek başına taşımaz, altındaki fiziksel alt tabaka yenilenmek zorunda. Beş-altı yaşlarında 1978'de eve gelen bir bilgisayarla başlayan merak, onu elektrik mühendisliğine, oradan bilimkurgu hayallerini ciddiye alıp sinirbilim doktorasına taşıdı. Bu kişisel yay, konuşmanın teknik tezine insani bir giriş işlevi gördü: zekâyı anlamak için onu kurmak gerekir.

Girişimcilik rotası bu tezi pratikte sınamış. 2014'te kimsenin dilinde yapay zeka yokken kurduğu Nervana Systems, anlatıya göre ilk yapay zeka çip şirketiydi ve ikna etmesi zor bir dönemde donanım odaklı bir bahis anlamına geliyordu. Şirketin Intel'e satışı erken bulunduğunu kendisi de ima etti, ardından Intel'de yapay zeka grubunu kurup yönetti. 2020 sonrası soru büyüdü: büyük dil modellerini ölçekleyecek altyapı nasıl kurulur. GPU'ları platformlaştırma ve başkalarının model eğitmesini kolaylaştırma fikri, MosaicML'e evrildi, 2022 sonundaki üretken yapay zeka dalgasıyla ivmelendi ve 2023'te Databricks çatısı altında birleşti. Bugün Databricks gelirinin yaklaşık dörtte birinin bu damardan geldiğini söylemesi, ölçeğin neden inandırıcı bulunduğunu açıklıyor.

Unconventional AI bu çizginin devamı değil, sıfırdan bir yeniden düşünme olarak sunuldu. Amaç, uzun süredir aynı şekilde çalışan bilgisayarı enerji verimliliği için ilk ilkelerle yeniden tasarlamak. İlk hedef beş yılda bin kat verimlilikti, ilerleme beklentiyi aştığı için bu hedef üç buçuk yıla çekildi. İlginç bir ayrıntı olarak, derin bilimsel sorunların çözümünde yapay zekânın kendisinin hızlandırıcı rol oynadığını vurguladı. Şirket tepeden tırnağa kurulu: teorisyenler daha az bilgi taşımaya odaklı fikirler üretiyor, model ekibi bu fikirleri gerçek veri ve gerçek ölçütlerle sınanır hale getiriyor, devre mimarları ve silikon tasarımcıları fiziği somutlaştırıyor, sistem ekibi ise kart ve rafa giden yolu kapatıyor.

Enerji Duvarı ve Biyolojinin Kanıtı

Enerji gerçekten sorun mu sorusuna Rao, tek şirketten bir kesit sunarak yanıt verdi. Google'ın ayda 3.2 katrilyon token işlediği bilgisini, token başına 10 joule gibi düşük bir varsayımla çarptığında ortaya yaklaşık 12 gigawatt çıkıyor. ABD'nin veri merkezlerine ayırdığı güç yaklaşık 40 gigawatt, dünya toplamı 100 gigawattın altında. Bu hesapla tek oyuncunun üretken yapay zeka servisleri için harcadığı enerji, küresel veri merkezi gücünün onda birinden fazlası oluyor. Model büyüklüğü ve talep birlikte büyüdüğünde, yaklaşık üç yıl içinde fiziki bir tavana çarpma projeksiyonu bu yüzden dile getirildi. Grafikle anlatırsa, üstte trilyon dolarlık bir pazar eğrisi hızla yükselirken altta enerji eğrisi lineer kalıyor ve makas açılıyor.

Bu makas, veri merkezi düşüncesini de dönüştürmüş. Eskiden öncelik alan, sonra ağ ve GPU iken bugün ilk soru enerji sözleşmesi olmuş. Her token sunum maliyetinin yaklaşık yarısı enerjiden geliyor, kalanı donanım sermayesi, alan ve diğer giderler. Mantık sadeleşmiş: bir güç sözleşmesi alıyorsun ve her watt'ı paraya çevirmen gerekiyor. Rao'nun iş önerisi de bu çerçevede kuruluyor, aynı watt'tan bin kat daha fazla değer üretmeyi vaat etmek. Denklem kâğıt üstünde pürüzsüz duruyor, yanıtı merak edilen kısım ise bunun inşa edilebilir olup olmadığı.

Biyoloji burada bir varoluş kanıtı olarak sahneye çıkıyor. İnsan beyni yaklaşık 20 watt ile çalışıyor, maymun beyni lineer ölçekle yaklaşık 1 watt, sincap beyni ise 8 miliwatt civarında. Cebinizdeki telefon yaklaşık 1 watt harcar, yani tek telefonla yüzden fazla sincap beynini teorik olarak koşturabilirsiniz ve bu küçük beyin, daldan dala binde bin isabetle sıçramak gibi son derece hassas bir davranışı hatasız sürdürür. Rao'nun sevdiği fikir şu: zekâyı gerçekten anladığımızı iddia etmek için onu kurabilmemiz gerekir. Bugünkü yapay sistemler zekice çıktılar verse de, bunu verimsiz bir yolla yapıyor ve suçlu büyük ölçüde bilgiyi taşımak.

Rakamlar verimsizliğin adresini netleştiriyor. İnsan korteksi saniyede yaklaşık 16 milyar bit taşırken, yüksek seviye bir grafik işlemci bellek dışına saniyede 30 trilyon bite yakın veri taşıyor, çip içindeki hareket bunun on ila yüz katı daha fazla. Sentetik sistemler beyinden kat kat fazla bit taşıyor ve enerji faturasını asıl bu hareket şişiriyor. Bilgisayarların tarihi mekanik, analog ve 1930'lar sonrası dijital uğraklarla bugüne gelmiş olsa da, 1945'teki Eniac'in topçu yörünge hesaplarını insan hesaplayıcılardan daha hızlı yapma mantığı ile günümüzde belleği dışarıda tutup bitleri mekik dokuyan mimari arasında temel paradigma sıçraması az. Hızı kutsayan bu tasarım, enerji verimliliğini uzun süre dert etmedi ve şimdi bu varsayım sorgulanıyor.

Fiziği Doğrudan Koşturmak

Yıllardır transistör sayısı artarken frekans ve tek iş parçacığı başarımı ölçeklenmeyi bıraktı, Moore yasasının getirdiği küçültme kazançları da büyük ölçüde tükendi. Rao'ya göre çözüm daha fazla soyutlama eklemek değil, araya giren katmanları kesmek. Dijital 1 ve 0 bile fiziksel dünyanın bir soyutlaması, transistör aslında ara hallere sahipken biz onu iki seviyeli davranmaya zorluyoruz ve üstüne sinir ağları inşa ediyoruz. Her soyutlama katmanı biraz kayıp ve verimsizlik ekliyor. Öneri, yarı iletkenin fiziğinin doğrudan bir soyutlamasını alıp sinir ağına bağlamak, tıpkı beyinde lineer cebir veya kayan nokta hesabı olmadan nöron fiziğinin zekâyı doğurması gibi. Doğada kuş sürüleri ve karınca kolonilerinde görülen, basit kurallardan doğan kolektif zekâ da aynı dinamik sistemler fikrine yaslanıyor ve beyin de benzer şekilde çalışıyor.

Bu fikri somutlaştıran sezgisel örnek metronom. Sert bir tahta üzerine konmuş birkaç metronom, birbirine hafifçe itme vererek aynı faza kilitlenir ve sistem yüzlercesiyle de senkronize olabilir. Bazı düzenlemelerde yarısı bir fazda, diğer yarısı karşı fazda kümelenir ama tüm davranış bağlantının fiziğinden doğar. Soru şu: böyle bir fiziksel sistemi hesaplama için kullanabilir miyiz. Unconventional AI bu soruya üretken yapay zeka üzerinden yanıt vermeye çalışıyor ve osilatör tabanlı UNO adlı görsel üretim modelini simülasyonda açık kaynak olarak paylaştı. Uçak, araba veya kuş gibi koşullara göre farklı durum uzayı yörüngeleri izleyen sistem, ölçeklenebilir ve eğitilebilir olduğunu gösterdi.

Son aylarda bu temelin üzerine eklenen en önemli bulgu seyreklik oldu. On elemanı birbirine tam bağlamak 100 bağlantı demekken bin elemanda bu sayı bir milyona fırlıyor ve kare ölçek maliyetli hale geliyor. Seyreklik, bağlantıların bir kısmını atıp sistem davranışını kurtarabilir miyiz sorusuna olumlu yanıt veriyor ve üstelik atılan bağlantılar sistemin eğitilebilirliğini artırabiliyor. Nadir bir kombinasyon: daha verimli, daha ölçeklenebilir ve daha iyi başarım aynı anda geliyor. Rao bunu kavramsal çerçeveyi doğru kurmanın ödülü olarak tanımladı ve hem simülasyonda hem de gerçek fiziksel donanımda aynı iyileşmenin gözlendiğini vurguladı.

Konuşmanın en iddialı anı ilk fiziksel dinamik bilgisayarın duyurusu oldu. Şirket Ocak ayında fiilen kurulmuş, Haziran başında tasarım üretim bandına gönderilmiş ve çip laboratuvara dönmüş. Ekranda gösterilen görseller, bu mimariden üretildiği söylenen ilk örneklerdi. Heyecan sadece görüntü üretmekle sınırlı değil, aynı mimari dizi modelleme ve dil modelleri gibi görevlere de taşınabilir. Enerji tarafında ise rakam dikkat çekici: görsel başına yaklaşık 500 nanojoule. Grafik işlemcide tipik maliyet millijoule mertebesindeyken, nano ölçek dokuz sıfırlı bir küçülme anlamına geliyor ve farkın kaynağı yine aynı: bilgi neredeyse hiç taşınmıyor. Rao bunun çalıştığının kanıtı olduğunu söyledi ve ilk kez bu sahnede paylaştığını belirtti.

Mimari açıdan tablo net: CPU'dan GPU'ya, oradan daha paralel yapılara geçiş hep von Neumann çizgisinde kaldı, bellek dışarıda ve hesaplama içeri veri taşıyor. Yeni yaklaşım dinamik bilgisayar olarak tanımlanıyor, hesaplama ve bellek aynı şeyin içinde ve ayrı bir bellek arayüzü yok, her hesap elemanı aynı zamanda bellek. Şirket buna 4D hesaplama diyor, bir boyut dinamiklerin zamanı, üç boyut ise yongaların üst üste istiflendiği fiziksel istifleme. Vizyonun devamında yaklaşık iki yıl içinde tam ürün hedefi var, raf seviyesinde bir veri merkezi sistemi, dışarıdan bakınca ağ kablosundan token girip çıkıyor ama içerde mimari baştan aşağı farklı. Mevcut modeller operasyon seviyesinde değil model seviyesinde taşınacak, bir miktar hesaplama gerektirecek, en temel işlem olan matris çarpımı bile sabit bir devre olarak değil zamana yayılmış bir davranış olarak yeniden yorumlanacak.

Ekip ve yazılım katmanı da aynı ölçekte alışılmadık. Yüz yıllık dinamik sistemler teorisinden gelen kuramcılarla çip üreten mühendisler normalde aynı dili konuşmaz, şirketin en zor işlerinden biri bu iki dünyayı aynı ürüne bağlamak olmuş. Ara katmanda CUDA benzeri bir soyutlama yerine Python tabanlı, zamana bağlı ve stokastik davranışı ifade eden bir kütüphane kurulmuş. Kapanışta termodinamik sınır hatırlatması vardı: hayvan beyinleri bu sınıra bir iki mertebe yakınken bugünkü bilgi işlem sistemleri yaklaşık on milyar kat uzakta. Üç buçuk yılda iki boyutlu litografinin sınırına dayanma, uzun vadede biyolojiyi geçme hedefi, gigawattlık büyük kampüslerden çok sayıda küçük veri merkezine ve milyarlarca robotun dinamik olarak bir araya geldiği bir geleceğe bağlandı. Bin kat ucuzlayan bir varlığın daha fazla tüketileceğini söyleyen Jevons paradoksu üzerinden ise trilyon dolarlık pazarın insanlık tarihinin en büyük pazarına dönüşebileceği fikri sahneye bırakıldı.