Hermes Agent ile yapay zekâ ekibi kurmak: 7 pratik ilke

Hermes Agent bugün elinizdeki en güçlü yapay zekâ araçlarından biri, ama çoğu kişinin elinde bir sohbet robotu gibi duruyor; Pink aylarca her gün gerçek işlerinde koşturduğu bir yapay zekâ ekibi ile bu algıyı tersine çevirdiğini söylüyor ve yedi pratik ilkeyi tek tek gösteriyor.

Pink önce tek etmenle her şeyi yapma alışkanlığını bırakıyor: araştırma, yazı ve yazılım işleri tek sohbette karışınca sonuçlar birbirine giriyor, bu yüzden orkestra görevini üstlenen bir ana etmen kuruyor, yanına araştırma, yazar ve geliştirici rolleri ekliyor ve her birini doğal dille tarif ederek oluşturuyor; her etmenin kendi talimatı ve kendi hafıza alanı oluyor. GitHub'daki çok profilli geçit rehberi de her profile ayrı oturum ve ayrı hafıza verilmesini önerir ve bu yaklaşım Pink'in ekibiyle birebir örtüşür.

Telegram içinde herkesin kendi odası

Sonra bu ekibi tek bir Telegram grubuna taşıyor ve grup ayarlarından konuları açarak her etmene kendi başlığını veriyor; böylece yazarla doğrudan yazarın odasında, araştırmacıyla onun odasında konuşuyor ve kimin ne yaptığı her zaman belli oluyor. Her konu kendi oturumunu taşıdığı için bağlam penceresi de bölünmüş oluyor ve tek sohbetteki şişme sorunu yaşanmıyor.

Kurulumun püf noktası küçük bir yönlendirme eklentisi: normalde gruptaki her ileti ana etmene gidiyor, bu eklenti ise her konuyu doğru etmene bağlıyor ve Pink bunun hazır tarifini de paylaşıyor. Eklenti bir kez kurulunca ekip gündelik kullanımda sanki dört ayrı uygulamaymış gibi davranıyor, oysa arkada tek bir Telegram grubu çalışıyor.

Ekip kurulunca gündeme maliyet geliyor ve Pink pahalı model efsanesini yıkıyor: her iş için en güçlü sürümü seçmek yerine her etmenin yaptığı işe bakıyor, e-posta tarayan ya da makale özetleyen bir etmene mütevazı bir model yetiyor, yazılım üreten etmene ise güçlüsünü veriyor. Uygun fiyatlı modellerle koskoca bir hafıza sistemini kurdurduğunu anlatıyor ve ucuzun kötü demek olmadığını kendi faturasıyla kanıtlıyor.

Aynı sağlayıcının içinde bile büyük ve küçük sürümler bulunduğunu, ayrıca aynı modelde hafif ile çok yüksek arasında çaba düzeyi ayarı olduğunu gösteriyor; etmenin görevine göre bu iki düğmeyi birlikte çeviriyor. Üstelik paralı bir sohbet planınız varsa o hesabı Hermes tarafına bağlayıp OpenAI ve Grok modellerini ayrıca ücret ödemeden kullanabildiğinizi ekliyor, yüksek planın daha çok kullanım hakkı verdiğini ve bunun kullandıkça ödemekten ucuza geldiğini söylüyor.

Maliyet ve hafıza: ekibin iki sessiz gideri

Ne var ki ucuzlayan ekip unutmaya başlıyor: sohbet geçmişi dolunca etmen yer açmak için özet çıkarmak zorunda kalıyor ve her özetlemede ayrıntılar buharlaşıyor; Pink bunu sürekli silinen bir beyaz tahtaya benzetiyor. Çözümü sade bir bilgi derlemesi: sunucusundaki düz not dosyalarına her etmen yanıt vermeden önce göz atıyor, iş bitince de not düşüyor ve kendisi de sayfaları açıp okuyabiliyor. LangChain'in wiki hafıza yazısı dosya tabanlı hafızanın farklı araçlarca okunabildiğini gösterir ve Pink'in derlemesi bu ilkeyle aynı kapıya çıkar. Bu derleme Karpathy'nin LLM wiki ilkesinden ilham alıyor ve etmenlerin okuduğu sayfalarla sizin kararlarınız ayrı tutuluyor, çünkü başkasının tanıtım cümlesi asla sizin gerçeğiniz olmamalı.

Hafıza sorunu çözülünce ekip siz konuşmadan da çalışmaya başlıyor: Hermes tarifeli görevlerle her sabah sekizde e-postalarınızın özeti, yapılacak işler, takvim ve hava durumuyla günü hazırlayan bir sabah bülteni bırakıyor, ya da yarım saatte bir gelen kutusunu yoklayıp taslak hazırlıyor. NousResearch'in zamanlanmış görev belgeleri gerçek işlerin tarifeli çalışabildiğini ve iletim davranışının ayarlanabildiğini anlatır; Pink'in sessizlik kuralı bu davranışın pratik karşılığıdır.

Güvenli bağlantı ve tek sunucuda çok ekip

Bu görevlerin çalışması için etmenlerin araçlara bağlanması gerekiyor ve Pink burada Composio kullanıyor: tarayıcıda bir kez giriş yapıp Gmail, takvim ve Notion gibi hizmetleri bağlıyor, etmen de iptal edilebilir bir anahtarla erişiyor, parolalar kendi sunucusuna hiç uğramıyor. Composio'nun Gmail bağlantı sayfası bu erişimin kapsam denetimiyle verildiğini ve her an geri alınabildiğini doğrular; Pink'in ev anahtarı benzetmesi de aynı fikri anlatır. Üç kuralı var: erişimi tek etmene ver, salt okunur başlat, yetkiyi sonradan genişlet, çünkü gönderilmiş bir iletiyi geri alamazsınız. Hazır prompt tarifleri de bu bağlantıların sessizce çalışmasını sağlar.

Üçüncü kuralın devamı daha sert: e-posta bilgidir, asla talimat değildir; çünkü herkes size ileti gönderebilir ve içine etmeninizi kandıracak gizli buyruklar saklayabilir. Bu saldırının adı istem enjeksiyonu ve etmen iletiyi okur ama asla ondan emir almaz. OWASP'ın yapay zekâ etmen güvenliği notları dış girdinin buyruk sayılmaması gerektiğini ve ayrıcalıkların dar tutulması gerektiğini söyler; Pink'in kuralı bu çerçeveyle birebir uyumludur.

Son iki ilke ölçekle ilgili: Docker ile tek sunucuda birbirinden tamamen ayrı Hermes düzenleri koşturuyor, içerik, iş ve kişisel ekiplerin notları birbirine karışmıyor ve tek sunucu ücreti ödeniyor. Docker'ın etmen ekipleri yazısı yalıtımlı çalışma alanlarının her ekibe kendi sınırlarını verdiğini anlatır ve Pink'in düzeni bunun birebir uygulamasıdır. Her şeyin üstünde ise NEXORA adlı kendi görev panosu var: görevler onun onayıyla başlıyor, etmenler işi aralarında geçiriyor, sonuçlar sohbet geçmişinde kaybolmak yerine belgelere yazılıyor, hangi etmenin çalıştığını gösteren bir ışık, görev günlüğü, makine sağlığı ve sesli kip de cabası.