Gündeme dön

Trilyon Dolarlık Çip Yarışında Kazanan Çipi Değil, Raf Ölçeğinde Sistemi Satan

Çıkarım harcaması eğitimi geçti, ABD gayri safi hasılasının yaklaşık yüzde ikisi yapay zekâ altyapısına akıyor ve raf ölçeğinde entegre sistemler parça toplama modelini geride bırakıyor. Austin Lyons, prefill ile decode ayrımı ve neocloudların yükselişi üzerinden bir sonraki trilyon dolarlık çip şirketinin nereden çıkabileceğini anlatıyor.

Nodesdaily’e aktarım: (UTC+03:00)
YouTube'da izle — bXNJU3RhW1I
Okuma seçenekleri

Bu tarayıcıda cihazdan sesli okuma kullanılamıyor.

Kavram merceği

Bu görünümde geçen teknik kavramlardan birini seç. Genel tanımı, öğretici örneği ve haberdeki kullanımını birlikte oku.

Bu görünümde sözlüğümüzdeki kavramlardan biri bulunmadı. Sözlük henüz tüm terimleri kapsamıyor.

Henüz hiçbir şirket gerçekten büyük dil modelleri için sıfırdan tasarlanmış bir çipi piyasaya sürmedi. Celestia Capital'in Tech Surge sohbetinde yarı iletken analisti Austin Lyons bunu piyasa mantığıyla açıklıyor: Fayda net değilse kimse fabrika hattını değiştirmiyor. Ama rakamlar artık başka bir hikâye anlatıyor. 2026'da ABD gayri safi hasılasının neredeyse yüzde ikisi yapay zekâ altyapısına gidecek, bu oran 2025'in neredeyse iki katı. Asıl sessiz kırılma ise geçen yıl yaşandı: Üretimde modelleri çalıştırma harcaması ilk kez eğitim harcamalarını geride bıraktı ve bu makas, alıcıdan tasarımcıya tüm zinciri yeniden şekillendiriyor.

Bulut alıcılarının donanım satın alma biçimi kökten değişti. Austin Lyons, on yıl önce bulutların standardizasyon grupları üzerinden sunucu parçalarını tek tek pazarlıkla ucuzlatmaya çalıştığını hatırlatıyor. Bugün ise eğilim tersine döndü: Müşteriler parçaları toplamak yerine tamamen entegre bir rafı tek bir tedarikçiden satın almak istiyor. Gerekçe hız ve basitlik. Parça bazlı en ucuz çözümü kovalama devri bitti, çünkü talep patlamasında kazanan en ucuz değil, en hızlı kurulan oluyor.

Sistem satışı fikri, öncü modellerin ölçeğinden doğuyor. İki trilyon parametreli bir sınır modeli, küçültme ve nicemlemeden sonra bile bir ila birkaç terabaytlık ağırlığa ihtiyaç duyuyor. Oysa tek bir hızlandırıcıda yalnızca 288 gigabayt yüksek bant genişlikli bellek bulunuyor. Bu yüzden tek bir çipe sığmayan model dört ya da sekiz hızlandırıcıya bölünüyor, bölündükçe de raf seviyesinde düşünmek zorunlu hâle geliyor. Nvidia'nın Grace Blackwell NVL72 rafı tam olarak bu ihtiyaca yanıt veriyor: 72 grafik işlemci ve 36 merkezi işlemcinin ağ, güç ve soğutma ile tek bir sistem gibi çalışması.

Nvidia'nın sistemdeki avantajı ilk davranması. Lyons'a göre firma 72 hızlandırıcının birbiriyle konuşmasını sağlayan tasarımı, yazılımı ve derleyici zincirini rakiplerden önce kurup müşteriye anahtar teslim hâle getirdi. Model geliştirici kendi kodunu yazıp çalıştırabiliyor, raf karmaşıklığı görünmez oluyor. Sektör her zaman çok tedarikçili rekabet ve metalaşma ister, ancak entegrasyon acısı bu kadar yüksekken ilk bütünleşik çözümü sunan tedarikçi pazarlığı elinde tutuyor.

Peki bulut alıcısı neden yüksek marjları bile bile tek sepete razı oluyor? Cevap maliyet değil, pazara çıkış süresi. Lyons, Elon Musk ve xAI örneğini veriyor: Onlar raf sistemlerini rekor hızda ayağa kaldırıp hızla üretim çıktısı almayı, kuruş hesabından daha değerli gördü. Benzer çekimi AMD'nin Helios rafında da görüyoruz. Herkes parça toplayarak daha ucuz kurulabileceğini biliyor, fakat kurulum haftaları değil günleri etkilediğinde bütünleşik raf cazip hâle geliyor ve müşteriler marjı hız için ödemeye razı oluyor.

Bu tablo girişimler için çıtayı yükseltiyor. Yıllarca fotomaskeden doğrulamaya milyarlar gerekirken, artık bir çip girişimi için bile yüz milyonlarca dolar konuşuluyor. Lyons eskiden birkaç milyon dolarlık küçük turlarla kavram kanıtı yapılabildiğini, bugün ise tek bir raf seviyesinde ürün için bile devasa sermaye gerektiğini vurguluyor. Buna rağmen girişim şansı kapanmış değil: Melanox gibi stratejik satın almalar ve onlarca yıllık raf entegrasyonu bilgisi devlerin elini güçlendiriyor, fakat arayüzler olgunlaştıkça dar nişlerde rafı tamamen taklit etmeden yaşayan girişim pencereleri de açılıyor.

Çıkarım döneminin iş yükü kendi içinde ikiye ayrılıyor ve bu ayrım silikon tercihini belirliyor. Sohbette prefill ve decode olarak anılan iki faz var. Prefill, kullanıcının uzun istemini tek seferde paralel okuma aşaması; bol işlem gücü istiyor. Decode ise yanıtı token token üretme aşaması; burada bellek bant genişliği ve verinin ne kadar hızlı taşındığı kritik. Doğal mühendislik sonucu prefill için işlemci ağırlıklı, decode için bellek odaklı farklı donanımlar düşünmek ve gerektiğinde bu iki fazı ayrı kümelere dağıtmak.

Nvidia bu ayrımı yazılımıyla resmileştirdi. Dynamo adlı orkestrasyon katmanı, aynı grafik işlemci havuzu içinde prefill ve decode kümelerini ayırıp trafiği yönetiyor. İlginç olan, Groq ve Cerebras gibi daha eski girişimlerin yıllar önce yaptığı mimari bahislerin şimdi değer kazanması. Her iki şirket de DRAM tabanlı yüksek bant genişlikli bellek yerine transistör tabanlı yerinde SRAM ile yonga içi belleği bol tutmuştu. Bu seçim, decode fazındaki bant genişliği açlığına doğrudan uyuyor ve model ayrıştıkça bu yongaların teklif ettiği hız anlam kazanıyor.

Veri merkezlerinin asıl kısıtı artık güç. Bir kampüse 100 megavat tahsis edildiğinde soru şu oluyor: Bu güçten megavat başına en fazla geliri nasıl üretirim? Lyons, tasarım kararlarının finansal bir soruya dönüştüğünü söylüyor. Güç, alan ve soğutma sabitken hangi yonga karması en çok üretim çıktısı verir? Bu hesap, eski Bitcoin madencilik tesislerini dönüştüren ekiplere bile neoklasik bulut olma yolu açıyor; ucuz güç ve sermayeye erişim, geleneksel hiper ölçeklinin hızına yetişemediği noktada avantaj yaratıyor.

Neocloud denilen yeni bulut katmanı işte bu boşluktan doğdu. Microsoft gibi devler bile neden dışarıdan grafik işlemci kiralar sorusu sohbette net yanıt buluyor: Güç erişimi sınırlı, bilanço dışı kiralama cazip ve talep takvimine yetişmek zor. Neocloudlar, varlığa dayalı finansmanda madencilik geçmişinden gelen deneyimi kullanıp hızla kapasite kuruyor, hiper ölçekliler ise bir yandan kendi kampüslerini büyütürken bir yandan bu kiralık kapasiteyi tampon olarak kullanıyor. Sonuçta 100 milyar doları aşan bir ara katman oluştu.

Neocloudların dayanıklılığı en çok tartışılan konu. Onlar hiper ölçekli müşteriye hizmet verirken aynı müşterilerle dolaylı rekabet ediyor. Lyons burada konsolidasyon bekliyor ama basit satın alma senaryosuna inanmıyor. Neocloud, farklı silikonu kendisi toplayıp müşteriye karmaşıklığı gizleyerek jeton hizmeti satabilir; doğru yonga doğru iş, müşteri detay görmez. Bu model tutarsa yepyeni silikonlar için pazara çıkış yolu olur, çünkü bulutta iş yükünü en iyi koşan donanıma yönlendiren bir katman, heterojenliğin maliyetini üstlenmeye gönüllü oluyor.

Bulutlar tek bir yonga tipi ile mi, geniş bir portföy ile mi çalışacak sorusunun yanıtı da merkezi işlemci dünyasından geliyor. Lyons, hiçbir bulutun bugün tek bir merkezi işlemci tipi sunmadığını hatırlatıyor; aynı mantık çıkarım için de geçerli. Etkileşim hızını ve eşzamanlı çıktıyı aynı eksende düşünün: Çok hızlı yanıt isteyen kullanıcı başına düşen jeton hızı ile toplam iş hacmi arasında bir takas var. Bu eğrinin her noktası farklı bir ürün; düşük gecikmeli sohbet, toplu belge özetleme veya uygun maliyetli küçük model, farklı donanım karmasında en iyi fiyata koşuyor.

Trilyon dolarlık şirket fırsatı tam bu portföyün orta şeridinde olabilir. Tartışma hep iki trilyon parametreli en akıllı modelde kilitleniyor, oysa hacim 70 milyar parametreli açık modellerde. Lyons, eski Hopper veya Ampere kartlarının bile bu segmentte hâlâ rekabetçi olduğunu, bu yüzden yeni yonga girişimlerinin en kalabalık iş yüküne odaklanmasının mantıklı olduğunu söylüyor. Çok yüksek zekâ gerekmeyen, fakat ucuz ve hızlı olması gereken görevler, pazarda en büyük dilimi oluşturuyor ve burada bellek odaklı alternatifler gerçek bir fiyat avantajı sunabilir.

Özel silikona karşı hazır ürün ikilemi de netleşiyor. Büyük model sağlayıcıları bir yandan hazır grafik işlemcileri büyük satıcılardan alırken, bir yandan kendi yongalarını Broadcom veya Marvell gibi ortaklarla geliştiriyor. OpenAI örneğinde olduğu gibi, yonga ekibi yazılım ekibiyle el ele vererek belirli iş yüklerine göre tasarım yapabiliyor. Hazır satıcılar ise kimseye özel olmayan geniş pazar için yenilik yapıyor; fikirler müşteriden değil, mimariden geliyor ve bu iki yol birbirini dışlamak yerine aynı anda büyüyor.

Çip tasarım tezgâhının kendisi de yapay zekâ ile hızlanıyor. Sohbette çizilen senaryo çarpıcı: Üç yıla ve yüz mühendise mal olan bir tasarım, araçlar sayesinde bir yılda aynı ekip ya da daha küçük bir ekiple bitebilirse maliyet üçte bire düşüyor. Malzeme listesine eklenen iki bin dolarlık artış finans müdürünün veto ettiği projeyi, yedi yüz dolara indiğinde uygulanabilir kılabiliyor. Maliyet bariyeri düştükçe daha önce hiç düşünülmemiş ekipler bile kendi yongasını mantıklı bulmaya başlayacak.

Aynı hızlanma hazır silikon satıcılarına da yarıyor. Deneyimli mühendis, hızlandırıcı araçları acemi kullanıcıdan daha iyi kullanıyor; bu da aynı çatı altında daha fazla varyant üretme imkânı veriyor. Eskiden pazar yalnızca belli bir büyüklükteyse yatırımın geri dönüşü hesaplanır, küçük nişler es geçilirdi. Maliyet yarıya indiğinde iç getiri oranı eşikleri aşılıyor, şirketler yarı-özel ürünleri bile kataloglarına eklemeye başlıyor. Böylece nişler çoğalırken, pazar genel olarak daha fazla özelleştirilmiş seçenekle doluyor.

Girişimler için tablo çift yönlü. Bir yanda raf ölçeğinde sisteme karşı savaşmak zor, öte yanda maliyet düşüşü yeni varyantların önünü açıyor. Büyük satıcılar bile eskiden kârlı bulmadığı küçük ürün gruplarını artık mantıklı bulup portföy genişletecek. Bu, girişim ile dev arasında doğrudan kafa kafaya rekabet yerine, aynı teknolojiyi farklı ölçekte çoğaltma yarışına dönüşüyor. Kazanan, sadece en iyi yongayı değil, o yongayı doğru faza, doğru fiyatla yerleştiren orkestrasyonu kuran olacak.

Sohbetin son cümlesi en iyi özet: Pek çok şey kararsız ve bu kararsızlık harcamayı yavaşlatmaya yetmiyor. Güç kısıtı, bellek mimarisi ve yazılım orkestrasyonunun kesiştiği yerde, trilyon dolarlık unvanı kimin alacağı belirsizliğini koruyor. Ancak çıkarım iş yükünün büyümesi, raf ölçeğinde sistemin norm hâline gelmesi ve neocloudların sermaye modeli kalıcı görünüyor. Yarışın kazananı, belirsizliği bekleyen değil, belirsizlik içinde sistemi kurup megavat başına geliri maksimize eden olacak.

Görsel: nodesdaily AI

AI yorumu

"Benim açımdan bu sohbetin en çarpıcı noktası, çipin tek başına kahraman olmaktan çıkıp güç, bellek ve yazılım orkestrasyonunun kesişiminde sistem satan modelin öne çıkması. Donanımcı gözle bile finans sorusu belirleyici hâle gelmiş durumda."

AI değerlendirmesi

Güçlü tarafı, yapay zekâ altyapısını çip yerine sistem ve iş modeli rekabeti olarak çerçevelemesi. Prefill ile decode ayrımını bellek ve işlem gücü eksenine oturtması, neocloud finansman mantığını güç ve bilanço üzerinden açıklaması ve raf ölçeğini teknik kolonun ötesinde finans sorusuna bağlaması bu bakışın omurgasını oluşturuyor. Bu çerçeve hem portföy düşüncesini hem de varyant çoğalması tezini tutarlı kılıyor.

Sınırları ise rakamların kesinliği ve tarihlemede ortaya çıkıyor. Yüzde iki gayri safi hasıla, eğitim ile çıkarım makasının ilk kez kesişmesi gibi manşet sayılar sohbette tek kaynaktan ve yuvarlatılmış aktarılıyor; dinleyici yıllık mı çeyreklik mi olduğunu, hangi harcama kalemlerinin dahil edildiğini ayırt edemiyor. Ayrıca dört koşul vaadi açılışta anons edilip içerikte madde madde açılmıyor, bu da trilyon dolarlık eşik için hangi koşulların test edilebilir olduğunu muğlak bırakıyor.

Pragmatik çıkarım net: Satın almada parça toplama yerine bütünleşik rafı seç, güç başına geliri önceliklendir, çıkarım iş yükünü tek yonga ailesinde değil portföyde planla. Orta segment 70 milyar parametreli modeller için eski nesil kartları portföyde tutmak, yeni fazı decode odaklı yongalarla desteklemek ve Dynamo benzeri orkestrasyonla prefill ile decode kümelerini ayırmak en azından önümüzdeki düzine ay için maliyet ve hız dengesini iyileştiriyor.

Girişimler ve bulut ekipleri için pratik yol, nişi raf ölçeğine meydan okumak yerine belleğe duyarlı dar boğaza odaklanarak tanımlamak. Bitcoin madenciliğinden dönme neocloud örneği güç ve sermaye erişimi olan yerde hız avantajı veriyor, hazır ile özel silikonu aynı anda yürütmek ise riski yayıyor. Yapay zekâ destekli tasarım maliyetleri düşürse bile tape-out ve portföy yönetimi hâlâ disiplin istiyor; aksi hâlde hız kazanımı varyant şişkinliğine dönüşebilir.

Kaynaklar

6 bağlantı; 1 tanesi 2 başka haberde de kullanılıyor. Aynı bağlantıyı paylaşan haberler birbirini doğrulamış sayılmaz; kaynağın kökeni bağlantı sayısından çıkarılmaz.

yapay zeka altyapısı · çip · çıkarım · raf sistemi · nvl72 · neocloud · bellek

Konuyu takip et

Bu haberden önce

Aynı olayla editör tarafından ilişkilendirilmiş önceki haberlerden kısa bir okuma sırası.

Kanıt ve kaynaklar

İzinli kaynak metnini, sürümünü ve köken bilgisini incele.

KAYNAKLARLA OKU

Bu haberi açalım.

Hesap kontrol ediliyor…