M5 Max 128 GB ile 5 Ay: Yerel Yapay Zekayı Ne Kadar Zorlayabilirsiniz?

Üretici, M5 Max çipli ve 128 GB birleşik bellekli MacBook Pro'yu beş aydır ana bilgisayarı olarak kullandığını söylüyor. Ona göre makine şu an MacBook Pro kalıbında alınabilecek en üst konfigürasyon ve günlük işlerin tamamını tek cihazda topluyor. Videonun sorusu net: bu donanımla yerel yapay zekada sınır ne kadar zorlanabilir, hangi noktada duvara çarpılır.

Yerel yapay zeka kurulumu tek bir uygulamadan ibaret değil; LM Studio, MLX tabanlı çalıştırıcılar, Ollama ve llama.cpp aynı yığında yan yana duruyor. Model tarafında Qwen, Gemma ve GLM ailelerinden çeşitli büyüklükler denenmiş. Birleşik bellek mimarisi sayesinde büyük ağırlık dosyaları işlemci ile grafik birimi arasında kopyalanmadan paylaşılıyor, bu da kurulumu pratik kılıyor.

Kodlama ajanları bölümünde tablo değişiyor: yerel modelle çalışan yardımcılar o kadar hızlı yanıt veriyor ki deneyim zaman zaman bulut modeline bağlanmış gibi hissettiriyor. Büyük bağlamlı düzenleme ve proje genelinde gezinme işleri makinede akıcı ilerliyor. Üreticiye göre günlük sürücü olarak bu akıcılık, ham benchmark rakamlarından daha ikna edici.

Isı ve gürültü tarafı model büyüklüğüne göre ikiye ayrılıyor: küçük parametreli modellerde makine serin ve sessiz kalıyor, fan neredeyse hiç devreye girmiyor. Büyük modellere geçilince tablo değişiyor; özellikle Flash sınıfı yeni nesil modellerde fan sürekli çalışıyor ve ısı çıkışı belirginleşiyor. Yani sessizlik garantisi değil, iş yüküne bağlı bir davranış söz konusu.

İnce ayar tarafı videonun sürprizlerinden biri: üretici, büyük dil modellerine kendi verisiyle ince ayar yapmak için Unsloth'un MLX çerçevesini kullanıyor ve sonucun bu dizüstünde şaşırtıcı derecede akıcı olduğunu söylüyor. Konuyu derinlemesine öğrenmek isteyenler için Udemy'de yerel modellerle ince ayarı anlatan bir kurs hazırlamış. Dizüstünde eğitim fikri birkaç yıl önce hayalken, burada olağan bir iş akışı gibi sunuluyor.

Denediği modeller arasında Qwen ailesinden 27 milyar parametreli yoğun model, Flash Next sınıfı karışım-uzman mimarili model ve GLM'nin 5.3 Flash sürümü var. Yanıt sürelerinin bağlam uzunluğuna, sorgunun niteliğine ve çekirdek kullanımına göre değiştiğini açıkça söylüyor. Yine de genel hükmü olumlu: bekleme süreleri değişken olsa da iş tamamlanıyor ve makine yarı yolda bırakmıyor.

Elindeki M1 Max ile yan yana koyduğunda farkın 8 kata kadar çıktığını aktarıyor; grafik birimi içindeki yapay zeka hızlandırma blokları bu sıçramanın ana nedeni olarak gösteriliyor. Kazanç yalnızca sohbet yanıtlarında değil, görsel üretimi ve transformer eğitimi gibi işlerde de hissediliyor. Hatta izlediğimiz videonun kendisi bu makinede kurgulanıp render edilmiş; Final Cut Pro ve Camtasia tarafında büyük projeler, çok sayıda öğe ve hızlı dışa aktarım vurgulanıyor.

Bellek bant genişliği rakamı 614 GB/sn olarak veriliyor ve üretici bunu makinenin öne çıkma nedeni olarak işaret ediyor. Elindeki M4 mini ile kıyasladığında arada katbekat fark olduğunu, yeni duyurulan mini modelinin de bu seviyeye yaklaşamadığını söylüyor. M1 Max ile M5 Max arasındaki bant genişliği farkı da benzer şekilde makasın ne kadar açıldığını gösteriyor.

Fiyat hikayesi videonun en somut bölümlerinden: makineyi Nisan döneminde yaklaşık 11.599 Yeni Zelanda dolarına almış. Sonraki bellek fiyat çılgınlığıyla aynı konfigürasyonun fiyatı 5.000 dolar civarında artmış, yani yüzde 30-40 bandında bir zam söz konusu. Erken alım ona ciddi bir avantaj sağlamış; bugünkü etiketle aynı kararı vermek çok daha zor olurdu.

Canlı demoda MLX iyileştirmeli çalıştırıcı üzerinde Gemma 4 ailesinden 26 milyar parametreli karışım-uzman bir model, 4 bit kuantalama ve hızlandırıcı tahmin modülü açık şekilde koşuyor. Model ilk açılışta belleğe tamamen yükleniyor ve Activity Monitor yaklaşık 46 GB kullanım gösteriyor; bellek baskısı göstergesi yeşilde kalıyor. Üretim hızı soru-cevaplarda 108 token/sn civarında ölçülüyor, kısa selamlaşma gibi hafif yüklerde 150 token/sn değerleri ekrana yansıyor.

Önceki denemelerine de atıf var: Qwen'in 27 milyar parametreli modeliyle çektiği videolardaki sonuçlar, hızlı SVG görseli üretimi ve .NET 8'den .NET 10'a kütüphane güncellemeleri dahil tam taşıma işinin birkaç dakikada bitmesi örnek gösteriliyor. Hızlandırılmış tahmin modülüyle bu tür çok adımlı işlerin belirgin şekilde kısaldığı vurgulanıyor. Yerel kodlama yardımcısının bu hızda çalışması, videonun en güçlü demosu olarak öne çıkıyor.

Artılar hanesinde taşınabilirlik, sessiz günlük kullanım, 27-32 milyar parametre sınıfında akıcı çıkarım ve dizüstünde ince ayar sayılıyor; makine bu sınıf için geleceğe dönük bulunuyor. Eksiler hanesinde ise tavan sorunu var: güncel büyük modellerin sanal bellekte 121-122 GB seviyelerine dayandığı, işletim sistemi ve kuantalama yüküyle birlikte 128 GB sınırına çarpılabileceği söyleniyor. Yakında 192 veya 256 GB isteyen, Claude sınıfı performansı yerelde vadeden bir model çıkarsa bu makinenin yetmeyeceği açıkça kabul ediliyor.

Kapanışta eskiden bir Mac'in on yıl masada durduğu, ama bellek iştahı yüzünden bu makinenin birkaç yıl içinde eskimeyebileceği riski dile getiriliyor. Apple'ın kendi yapay zeka modellerini bu makinelerde koşturma planları da denklemin parçası. Yine de üretici alımından memnun; M6 veya M6 Ultra'yı bekleyenlerin bu tabloya bakarak karar vermesini öneriyor ve izleyicisine teşekkür ederek videoyu kapatıyor.