Claude'un Kendi Ar-Ge'sini Yönettiği Gün: Anthropic'in İç Sistemleri

Bir haftanın haberleri, yapay zekâ sektörünün iki yüzünü yan yana koyuyor. Aynı günlerde dünyanın en büyük yapay zekâ şirketlerinin yöneticileri Birleşmiş Milletler'de insan kontrolünün sürmesi gerektiğini savunurken, bu şirketlerden biri kendi araştırma departmanının dörtte birini yapay zekâya devrettiğini duyuruyor. Bir tarafta düzenleme çağrısı, diğer tarafta otomasyonun günlük iş haline gelmesi. Aradaki mesafe, sektörün en sıkı tartışılan sorusuna somut bir cevap veriyor.

Güvenlik Konseyi'nde iki temel risk

Oturumun ilk konuşmacısı OpenAI'nin yöneticisi Sam Altman oldu. On dakika süren konuşmasında yapay zekânın tıp, eğitim ve ekonomik üretkenlik alanlarında büyük kazançlar vaat ettiğini, ancak sistemler otonom hale geldikçe iki riskin öne çıktığını söyledi. Birincisi kontrolün kaybedilmesi : modeller kendi gelişimlerini sürdürdüğünde insan takibine ihtiyaç duymayacak hale gelebilir. İkincisi gücün tek elde toplanması , yani teknolojinin az sayıda şirket ve ülkede yoğunlaşması.

Altman'ın çözüm önerisi bir fren değil, bir dengeydi. İnsan merkezli kararların sürekli devam etmesi gerektiğini, insani yargının devre dışı bırakılmaması gerektiğini vurguladı. Onun en net cümlesi, en kritik kararların San Francisco'daki laboratuvarlarda verilmemesi gerektiğiydi: eğer yapay zekâ demokratik olacaksa halkın kendisi hakkında, halka karşı sorumlu kurumlar eliyle karar vermesi gerekiyordu. Ayrıca uluslararası standartlar, ortak risk değerlendirme protokolleri ve hızlı olay bildirimi sistemleri kurulmasını istedi.

Anthropic'in yöneticisi Dario Amodei ise konuşmasını video bağlantısıyla verdi ve aynı hizaya daha sert bir çerçeve koydu. Aynı iki riski tekrarladı ama isimlerini değiştirdi. Birincisi kötüye kullanım : biyolojik silah üretmek gibi işlerde model geliştiricileri bertaraf edilebilecek noktaya gelebilir. İkincisi kontrol kaybı. Amodei bu arada yapay zekânın matematik alanında ne kadar hızlı ilerlediğini anlatarak sınırların yaklaştığını savundu: önceki yıllarda ilkokul düzeyinde sorular çözülebilirken bugün milyon dolar düzeyindeki açık problemler çözülebiliyor.

Matematik ilerlemesi, Amodei'nin salık ettiği yavaşlamayla ilginç bir gerilim oluşturdu. Aynı hafta OpenAI, iç modelinin bir buçuk aylık eğitimi sonrasında yüzden fazla açık matematik problemini çözdüğünü açıkladı. Daha önce Navier-Stokes problemine çözüm getirildiği de söylenmişti. Bazı matematikçiler bu sonuçların aceleyle açıklanmasının sorun yaratabileceğini, doğruluğu belirsiz manşetlerin sonradan tutmayabileceğini ifade etti. OpenAI'nin bu kaygıya verdiği yanıt, Princeton'daki İleri Araştırmalar Enstitüsü bünyesinde bağımsız bir danışma grubu kurmak oldu.

Bu danışma grubu, kurumun açıklamasına göre karar yetkisine sahip değil. Dokuz matematikçiden oluşan grup, sonuçların önemini değerlendirecek ve ne zaman yayımlanacağı konusunda öneri sunacak, ücret almayacak ve kendi üyeliğini belirleyebilecek. Ancak araştırmanın hızını yavaşlatma yetkisi kendilerinde değil. Enstitünün vurguladığı bu ayrım, modelin ürettiği bilgiyi kimin denetleyeceği sorusunun en somut hâli. Kurumsal bir güvence, denetimsiz bir hız.

21 saatte bulunan enzim sistemi

Haftanın en çarpıcı gelişmesi ise Anthropic'in biyoloji alanındaydı. Şirket, Claude'un insanlara bulaşan patojenlerle çalışmayan kendi laboratuvarında, devasa bir dizi veritabanında RNA'yı DNA'ya kopyalayan enzimleri taradığını açıkladı. Bu enzimler, HIV gibi virüslerin kendi kopyalarını üretmek için kullandığı moleküllerden biri. Model yaklaşık 950 oturumda 21,5 saat boyunca 1,9 milyar protein kümesini taradı ve ilk kez bir enzimin yanında, kendisine benzeyen bir yeni genetik sistem buldu.

Bulunan sistem, CRISPR'daki gibi düzenli aralıklarla tekrarlanan DNA dizileriyle ve ona eşlik eden yardımcı bir genle kurulu; şirket buna kısaca ART, yani dizi eşlikli enzim sistemi adını verdi. Enzim bilimsel olarak yeni değil, daha önceki çalışmalarda tanımlanmıştı. Yenilik olan, modelin enzimin işlevini değil, etrafındaki tekrarlı yapıyı ilk fark etmesiydi. CRISPR'ın mucidi olarak kabul edilen Feng Zhang ön yazıyı inceledi ve bulguyu ilginç bulduğunu, daha fazla araştırmayı hak ettiğini belirtti.

Bulgunun en çarpıcı tarafı tekrarlanabilirlik. Anthropic aynı kampanyayı on kez daha çalıştırdı; hiçbir denemede ajanlar enzimin önündeki DNA'yı okuyup tekrarları göremedi. Doğrudan DNA verildiğinde en güçlü modeller denemelerin en az yüzde doğsanında diziyi tarif ediyordu, dosya ve araçlarla çalışınca oran yüzde otuz ikinin altına iniyordu. Yani keşif modelin zekâsından çok, onu doğru yöne bakmaya yönlten isteminin tesadüfinde.

Haftanın ikinci laboratuvar hikâyesi robotlarla ilgiliydi. Figure, gövde kontrolü sinir ağı Helix 2.5'in daha önce hiç görmediği otuz evde, hiçbir ortamdan veri toplamadan başarıyla çalıştığını açıkladı. Robot dağınık oyuncakları topladı, havluları katladı, yatak yaptı. Başarı, o evlerdeki tüm işleri eksiksiz bitirmek için yapılan katı bir kıyasla ölçüldü ve yüzde ellidi aştı; aynı görev için insandan toplanmış devasa hareket verisiyle önceden eğitilmiş modelin katkısı, sıfırdan eğitilene göre altı katı aşık. Verinin kaynağı da bir dönüm noktası: robot eğitimi için evlere kamera taşıyan insanlara ödeme yapılıyor ve bu kayıt giderek kıymetli hâle geliyor.

Gündelik hayatın yeni yüzü tüketici tarafında. Meta, kamera taşımayan kişisel yapay zekâ ajanı Muse'yi eylül başında piyasaya verdi; model, uygulama üzerinden veya doğrudan WhatsApp üzerinden konuşularak e-posta gönderme, seyahat ayırtma ve ödeme yapma gibi işleri yürütüyor. Zaman alan görevlerde uygulama kapatıldığında da çalışmaya devam ediyor, onay gereken noktaya gelince geri dönüyor. Görsel modelin üzerinde herhangi bir kısıtlama olmaması, yani güvenliği yazılımsal önlemlerle kurma hedefi, ajanları masaüstü asistanından masabaşı çalışan operasyon aracına geçiştiriyor.