Yapay zekanın elektrik faturası: veriyi taşımak hesaptan pahalıya geliyor

Veri merkezleri 2030'a gelindiğinde Japonya'nın tamamından fazla elektrik yutmak üzere: yılda yaklaşık 945 TWh ve bunun başlıca nedeni yapay zeka. Çarpıcı ayrıntı gücün nereye gittiği: en büyük AI kümelerinde enerjinin yüzde 80'inden fazlası hesap yapmaya değil, çipler arası veri taşımaya harcanıyor. Bu 945 TWh projeksiyonu IEA'in Energy and AI raporunun baz senaryosundan geliyor ve rapora göre veri merkezi talebinin artış hızı diğer tüm sektörlerin toplamından kat kat yüksek seyrediyor. Bundan sonra anlatılan her şey aslında veri taşıma ile hesaplama arasındaki bu tek dengesizliğin hikayesi.

Öncü laboratuvarlar artık 5 trilyon parametreye varan modeller kuruyor ve çoğu uzman birkaç yıl içinde 10 ila 40 trilyon bandını bekliyor. Hiçbir çip böyle bir modeli tek başına taşıyamıyor ve bunun bir nedeni fizik: çipleri basan makineler bir seferde yaklaşık 26'ya 33 milimetrelik bir dikdörtgen pozluyor, bu da tek kalıbın büyüklüğünü sınırlıyor. Bu yüzden güçlü işlemciler birden çok kalıbın birleşiminden doğuyor ve belleğin de hesapla birlikte ölçeklenmesi gerekiyor. Yeterli bellek olmadan dev model tüm kullanıcılarına yetecek bağlamla yüklenemiyor bile, bu yüzden binlerce işlemci paylaşılan bir bellek havuzundan tek makine gibi çalışmak zorunda.

Neden tek çip yetmiyor: fizik ve bellek duvarı

Bilgisayar ağları uzun zaman önce çözüldü ama farklı bir iş için. Dünyadaki trafiğin çoğu yetmişlerden kalma TCP/IP tasarımıyla akıyor; yönlendiriciler paketleri iletiyor, başa çıkamadığını sessizce düşürüyor ve güvenilirlik işini iki uçtaki yazılıma bırakıyor. Bu iş bölümü interneti muhteşem ölçekledi çünkü akan video arabelleklerle yaşıyor ve geciken paketi kimse fark etmiyor. AI eğitiminde böyle bir lüks yok: binlerce çip aynı adımı birlikte ilerliyor, sonra her biri öğrendiğini paylaşıp herkesi bekliyor, bu yüzden on mikrosaniyelik her gidiş-dönüş milyonlarca kez tekrarlanıp tüm sistemin vergisine dönüşüyor.

Bugünün yanıtı iki katmanlı ağ: kabin içinde çok hızlı, veri merkezi genelinde çok yavaş bağlantılar. Nvidia'nın NVLink'i kabin içinde saniyede 1,8 terabayta ulaşıyor ama veri kabinden çıkınca hız kabaca 200 gigabayt düzeyine düşüyor; Huawei'in makalesi bu düşüşe uçurum diyor. Nvidia'nın geliştirici blogundaki NVLink dosyasına göre altıncı nesil bağlantı grafik işlemci başına 3,6 TB/s bant genişliği sunuyor ve raf ölçeğinde ağ-içi işlemle klasik Ethernet'i belirgin farkla geride bırakıyor. O uçurumu yumuşak bir yokuşa çevirmek yeni mimarinin çıkış noktası.

Tüm veri merkezi için tek dil

Birinci gereksinim, çip paketinin içinden veri merkezinin öbür ucuna kadar tek protokol konuşmak; böylece hiçbir sınır kapısında paket yeniden ambalajlanmıyor. Bugünkü yarım düzine bağlantı standardı arasındaki her dönüşüm gecikme, donanım ve boşa giden enerji ekliyor ve taşıma gücünün çoğu tam bu geçiş noktalarında kayboluyor. Huawei'in resmi duyurusuna göre kablosuz LinkBlade kabin tasarımı 4.096 NPU'luk bir SuperPod'da yaklaşık 196 kilometre bakır kabloyu ortadan kaldırıyor. Küçük bir düzeltme gerekiyor: sunucu mimariyi videoda Pirium diye telaffuz ediyor ama Huawei'in duyurusundaki resmi ad UnifiedBus.

İkinci gereksinim, sistemdeki her bayta tek adres vererek uzak belleği yerli gibi hissettiriyor. Bugün başka kabindeki sayıya ihtiyaç duyan işlemci bir istek mesajı gönderiyor, iki ağ kartı paketleri sarıp açıyor ve sadeleştirilmiş yollar bile mesaj-bekle düzeni olarak kalıyor. Yeni düzende işlemci kendi belleğinde kullandığı yük komutunu verip veriyi kendisi çekiyor. Huawei gidiş-dönüşü öncesindeki on mikrosaniyeler düzeyinden 100 nanosaniye civarına indirdiğini belirtiyor; kabaca 500 kat hızlanma ve ricalı bürokrasiden doğrudan erişime geçiş demek.

Üçüncü gereksinim, büyük sistemleri tıkayan ana işlemci darboğazını kaldırıyor. Sahip olduğunuz neredeyse her bilgisayarda merkezi işlemci emir veriyor, hızlandırıcılar ve sürücüler söyleneni bekliyor; küçük ölçekte iyi çalışıyor ama ordu büyüdükçe merkez tıkanıyor. Somut AI örneği KV önbelleği : modelin sohbette o ana kadar okuduğu her şeyi tutan depo. Birleşik kumaşta sinirsel işlemci bu depoyu ağdaki depolamadan arada işlemci olmadan doğrudan okuyor; uzun bir sohbetin geçmişini çekerken kazanılan her milisaniye yanıtın ekrana düşmeye başlama süresi demek.

Bakır bitiyor, ışık başlıyor, arızalar sürüyor

Dördüncü gereksinim bakır ve optik kabloyu tek dil altında birleştiriyor çünkü AI hızlarında bakırın sert bir sınırı var. Tel hızı her ikiye katlandığında bakırın sinyali taşıyabildiği mesafe kabaca yarıya iniyor; hızlı anahtarlama enerjinin daha çoğunu ısıya çevirdiği için kullanışlı bakır erişimi bir metre civarında kalıyor. Takılabilir optik modüller önünde bir metrelik bakır bırakıyor, bu yüzden Huawei pragmatik orta yol olarak çipin yanında yalnızca santimetrelerce bakır bırakan pakete-yakın optiği seçmiş. HPCwire'ın ölçekli arabağlantı analizine göre bakır kısa mesafede verimli kalırken kabinler arası ölçekli bağlantılarda optiğe geçiş zorunlu hale geliyor.

Işığın da kendi derdi var: elektrik-optik çeviriciler gürültü ekliyor ve doğrusal bir optik bağlantı 100 bin bitte bir hata yaparken Ethernet 100 milyonda birden az hata bekliyor. Her atlada on nanosaniyeler ekleyen ileri hata düzeltme yerine Huawei bunu atlayıp her bağlantının kendi trafiğini denetleyip bozulan veriyi atla-atla yeniden göndermesini seçmiş. Optik bağlantılar bir de milisaniyelerce kırpışıyor; iki aydır çalışan eğitimi çökertmeye yetecek kadar uzun ve her kordondaki çift fiber ortalama arıza aralığını yaklaşık bir günden bir aya çıkarıyor. SemiEngineering'in CPO dosyasına göre fotonik motorları işlemciyle aynı pakette birleştirmek sinyal yolunu santimetrelerden milimetrelere indirerek bit başına enerjiyi düşürüyor.

Gezinin en çarpıcı kavramı MFU , yani model FLOPS kullanımı: sistemin kuramsal gücünün gerçekleşene oranı. Yüzde 30 verimde 4.000 çiplik kurulum ancak 1.200 çip gibi çalışıyor; iletişim katmanı tıkalıyken daha hızlı silikon tek başına anlamı kaçırıyor. ZeroEntropy'nin MFU kavram sayfasındaki tanıma göre bu oran gerçekleşen işlem gücünün kuramsal tepe değere bölünmesiyle bulunuyor ve 2026 yılı eğitiminde yüzde 40 ila 60 aralığı iyi kabul ediliyor. Hızlı çipler azami hızı yükseltir ama trafiği yalnızca daha hızlı ve doğrudan iletişim açar; üstelik boşta bekleyen çip de enerji yakmaya devam ediyor.

Vitrin makine 4.096 sinirsel işlemcili Atlas 960E SuperPod: 48.000 takılabilir modül yerine 5.500 optik motor kullanıyor ve tek makinenin tüketimini 550 kilovattan fazla düşürüyor. Huawei'in Atlas duyurusuna göre ilk NPO tabanlı SuperPod olan 960E, FP8'de 8 EFLOPS sunuyor ve 5.500 Hi-ONE ünitesi 48.000 optik modülün yerini alıyor. Takvim kademeli: 1.0 sürümü Mart 2025'ten beri sevkiyatta, 2.0 sürümü bu yıl sonunda Atlas 950 ile geliyor, 960E için açıklanmış tarih yok ve içindeki Ascend 960 çipleri 2027'yi hedefliyor. Huawei'in IEEE ISCAS 2026 sunumuna göre Tau ölçekleme yasası geometrik küçültme yerine zamanda ölçeklemeyi öneriyor ve Logic Folding bu fikrin ilk ürünü olarak tanıtılıyor. Benimsenmeyi hızlandırmak için Huawei şartnameyi açık lisansla yayımladı; 26 ülkede 30.000 kurumsal indirme ve Ethernet uyumlu bir sürüm de duyurdu.