Küçük Kasaya İki Dev Kart: Birleşik Bellekle Yerel Yapay Zekâ Deneyi

Video, bir soruyla açılıyor: masaüstü Framework kasasından, üzerinde iki ekran kartı takılı bir kasaya nasıl geçilir? Cevap, Strix Halo platformu ile iki adet R9700 kartının aynı sistemde buluşması. Şerit sayısı sorusu esprili geçiştiriliyor; şeritler platformdan değil, harici bir köprüden geliyor.

Kartlar tanıtılıyor: ASUS üretimi, iş yüküne uygun fanlı tasarım, düzenli kablo yapısı, kart koruma aparatı. Kutudan kart çıkıyor ama güç dönüştürücü ayrı alınıyor. Aynı kasaya dört adede kadar sığabileceği, sunucunun daha önce denediği bir düzen olarak anlatılıyor. Bulunabilirse liste fiyatından alınabileceği notu düşülüyor.

İşin sırrı, Broadcom üretimi bir köprü çipinde: anakarttaki dört şeritlik Gen 4 yuvası çift yönde 8 GB/sn veriyor; köprü, MCIO kablolarıyla bunu sekizer şeritlik yuvalara dağıtıyor. Amaçlanan 16+16 düzeni tutmamış, düzen sekizer şeritli dört yuva olarak kurulmuş, ikisi boş duruyor. İki kart daha eklenebilir mi sorusu, adres alanı ve BIOS engellerine takılıyor.

Bellek hesabı esprili kuruluyor: 128 GB birleşik bellek ile iki karttaki 32+32 GB toplanınca 192 GB video belleği şakası yapılıyor. Şaka hemen düzeltiliyor; yapı türdeş değil, iki ayrı bellek dünyasından oluşuyor. Büyü, kartlar arası bağlantının cılız platform köprüsünden değil, harici köprüden geçmesinde.

Yazılım cephesi deneyin dürüst kısmı: hata ve pürüzler yüzünden bu dizilim herkese önerilmiyor. Yine de hedef net: 10 bin doların altında sınır sınıfı modelleri, özellikle Qwen ailesini yerelde koşturacak bir bileşim bulmak. Yoğun 27B modelinin iki kartta, birleşik bellekli düzeneğe göre belirgin iyi çalıştığı aktarılıyor.

Uzman karışımı 35B A3B modeli ise Strix Halo tarafında parlıyor; ön doldurma ve istem işleme yükü kartlara eklendiğinde tablo değişiyor. Vulkan ile ROCm arasındaki tercih, kartlarda yazgıyı belirliyor; AMD'nin yeni ROCm 10 sürümü test gündemine giriyor. Hangi yığının hangi modelde öne çıktığı, deneme yanılmayla bulunuyor.

Şaşırtıcı gözlem, çok kartlı iletişim kütüphanesinin köprü arkasında daha az sorun çıkarması: yerel işlemci bağlantısındansa köprülü düzende daha sakin çalışıyor. Sunucu bunu, büyük ölçekli dizilimlerin zaten köprülü mimarilere göre yazılmasına bağlıyor. Küçük sistem, mimari olarak büyük sistemi modelliyor; RDNA ile CDNA farkı baki kalmak şartıyla.

Gelecek donanım da anılıyor: HBM bellekli yeni PCIe hızlandırıcılar, fiyatları nedeniyle bu kasa için anlamlı bulunmuyor. Sunucu, pahalı hızlandırıcıları bu platforma taşımanın mantıksız olduğunu açıkça söylüyor; merak, yapılabilirliğini görmekten ibaret. Deneyin ruhu, sınırları zorlamak.

Sonuç cümlesi net: bu dizilimde tümleşik grafik birimi başarım artırıcı değil, kapasite çarpanı. Derin bellek isteyen bilgi destekli üretim işleri, fazladan 64 GB hızlı video belleğiyle nefes alıyor. Köprü çiplerinin gelecekte daha sık görüleceği, yeni nesil platform planlarına bu senaryonun girmesi dileğiyle söyleniyor.

Kapanışta kartı gönderen ASUS'a teşekkür ediliyor; topluluk çekilişi için daha fazla kart koparma pazarlığı esprili dille anlatılıyor. Sorular ve ek test istekleri için forum adresi veriliyor. Video, delilik diye adlandırdığı bu düzenin Level1 geleneği olduğunu söyleyerek bitiyor.