Yapay Zeka Belleği SSD'ye Taşındı: Huawei M900'ü Anlamak

Yapay zeka donanımında ezber bozan bir iddia gündemde: pahalı ve kıt belleğe her şeyi sıkıştırmak yerine SSD tabanlı bağlam havuzu ile hız kazanmak mümkün mü? Anlatıya göre Huawei OceanStor M900, tek kümede 64 PB KV cache , 40 TB/s toplam bant ve yaklaşık 60 mikrosaniye erişim sunuyor; şirketin iddiasına göre bu değerler önceki milisaniye sınıfı yollara kıyasla yüzde 90 daha hızlı. Bu kapasite ve bant değerleri huawei.com üzerindeki resmi duyuruda paylaşılan rakamlara dayanıyor ve bağımsız doğrulamadan geçmiş ölçümler olarak okunmamalı.

Tanıtım sahnesi 17 Eylül 2026'da Şanghay'da kurulan Huawei Connect 2026 oldu; açılış konuşmasında David Wang yeni kategoriyi Context Memory Storage olarak adlandırdı. Sunum, Atlas SuperPoD altyapısıyla birlikte anılan OceanStor M900'ü ajanlar çağına yönelik silikon temelin parçası gibi konumlandırdı. Etkinlik özeti ve isimlendirme detayları unite.ai üzerindeki haberde aktarılan bilgilerle örtüşüyor ve ürünün pazarlama çerçevesini anlamak için faydalı bir başlangıç sunuyor.

KV Cache Neden Şişti

KV cache kavramını bir defter gibi düşünmek işi kolaylaştırıyor: model, ürettiği her cümlenin ara hesaplarını kenara not ediyor ve aynı bağlam geri geldiğinde baştan hesaplamıyor. Milyon tokenlik belgeler ve uzun süreli ajan görevleri bu defteri devasa hale getiriyor; tekrar eden sorular, kod düzenleme döngüleri ve çok adımlı işler aynı notlara defalarca başvuruyor. Defter büyüdükçe pahalı belleğe sığmaz oluyor ve daha geniş ama daha yavaş bir katmana taşma fikri doğuyor.

Arka plandaki ekonomi HBM ve yüksek hızlı DRAM tarafındaki darboğazla ilgili; bu bellekler hem pahalı hem de tedariki sınırlı ve fiyat dalgalanması doğrudan hızlandırıcı maliyetine yansıyor. Buna karşılık flaş depolama birim başına çok daha ucuz ve yoğun, ancak gecikme tarafında geride kalıyor. Ocak 2026'da yayımlanan Memory Wall değerlendirmesini özetleyen trendforce.com üzerindeki analiz, HBM3e ve DDR5 çevresindeki aşırı talep döngüsünün tüketici DRAM'ini bile daralttığını vurguluyor.

Mimari ve Dayanıklılık İddiaları

Mimari cevap, belleği tek katman görmekten vazgeçip bellek hiyerarşisi kurmak: en sıcak veri HBM'de, ılık ve tekrar kullanılabilir bağlam SSD havuzunda duruyor. Huawei tarafının paylaştığı ikinci teknik detay, CPU ile ağ ve NAND denetleyicisini aynı birimde toplayan UnifiedBus bağlantısına ve NPU ile SSD arasında tek atlamalı yola işaret ediyor. Ana işlemcinin veri yolundan çıkarılması olarak anlatılan bu host CPU bypass yaklaşımı, huawei.com üzerindeki teknik anlatımda gecikmeyi düşüren ana unsur gibi sunuluyor.

Dayanıklılık tarafında yazılımın rolü büyük; KV-aware olarak tanımlanan uyarlanabilir depolama katmanının yazma örüntülerini birleştirip gereksiz yıpranmayı azalttığı öne sürülüyor. Üretici iddiasına göre sürücüler günlük 24 kez tüm kapasite yazmaya dayanıyor, ömür 16 kat uzuyor ve kararlı işletim 3 yıla ulaşıyor. Bu dayanıklılık çerçevesi blocksandfiles.com üzerindeki analizde aktarılan teknik ayrıntılarla birlikte ele alınıyor ve gerçek saha verisi görülmeden temkinli okunmalı.

Performans tarafında tipik yapay zeka kodlama iş yükünde token üretiminin iki katına çıktığı ve ilk yanıta kadar geçen sürenin yarıya indiği iddia ediliyor; bu rakamlar üretici testlerine ait öncül sonuçlar olarak sunuluyor. Ancak bağımsız kıyaslama, fiyat listesi ve veri yaprağı henüz ortada yok, doluluk ve sıkıştırma koşulları da açıklanmış değil. Ölçüm bağlamındaki bu boşluk blocksandfiles.com üzerindeki ikinci değerlendirmede vurgulanan çekinceyle aynı noktaya çıkıyor: iddia güçlü, kanıt paketi eksik.

Rakipler, Öncüller ve Sınırlar

Benzer bir yönelimi NVIDIA tarafında görmek rekabetin yönünü belli ediyor; BlueField-4 tabanlı inference context memory yaklaşımı Vera Rubin altyapısıyla birlikte anılıyor ve 5 kata kadar işlem artışı ile güç verimliliği hedefi paylaşılıyor. Mart 2026 tarihli teknik yazıdaki bu hedefler de üretici iddiası düzeyinde ve bağımsız sonuçlarla doğrulanmış değil. Gelişmelerin özeti developer.nvidia.com üzerindeki blog yazısında yer alan çerçeve ile karşılaştırmalı okunduğunda tablo tamamlanıyor.

Araştırma cephesi bu fikrin yeni olmadığını hatırlatıyor; Moonshot AI çevresinde bilinen Mooncake çalışması ve benzeri denemeler SSD'ye taşmanın hem fırsat hem de tuzak barındırdığını göstermişti. Yüksek isabet oranlı iş yüklerinde ciddi kazanç mümkünken, kötü yerleştirme ve erişim tasarımı avantajı tamamen silebiliyor. Bu fırsat ve zorluk dengesi kvcache.ai üzerindeki Mooncake yazısında anlatılan bulgularla örtüşüyor ve tasarımın iddiadan daha belirleyici olduğunu düşündürüyor.

Son söz fizikle ilgili: SSD'ler HBM'in yerini almıyor, yalnızca isabet oranı yüksek tekrarlı işlerde pahalı belleğin yükünü hafifletiyor. Asıl kilit ekosistemde; model yazılımı, sürücüler ve bulut dağıtımı olmadan donanım iddiası tek başına anlam taşımıyor ve bellek artışı tek başına akıl artışı demek değil. Bu yüzden izlenecek ölçüt net: büyük bulutların pilot dağıtımları, gerçek isabet oranları ve toplam sahip olma maliyeti ortaya çıkmadan mimari kararı vermemek gerekiyor.