Stanford'dan Derin Bakış: Yapay Zekâ Çağında İşlerin Geleceği ve Zayıf Halkalar

Stanford'da ekonomik büyüme üzerine on beş yılı aşkın süredir çalışan bir profesör, yapay zekâyı hayatımızın en dönüştürücü teknolojisi olarak tanımlayarak başlıyor ve elektriğin ampulünden transistöre, yarı iletkenlerden internete uzanan bir çizginin son halkası olarak konumlandırıyor. Soru net: bu teknolojiyi öncekilerden ayıran ne, benzer kılan ne ve bilişsel işler ile robotlarla desteklenen fiziksel işlerin tamamı makinece yapılabilir hale gelirse dünya nasıl görünür? Yanıt için dört beş güncel araştırmaya dayalı iki uç senaryo kuruyor ve aradaki gri bölgeyi sonra modelle dolduruyor.

İki Uç Senaryo: Patlama ve Sıradan Devam

Birinci uç, Silikon Vadisi'nin aşina olduğu patlama anlatısı. Önce yazılım mühendisliği otomatikleşir; geçen Kasım'da görücüye çıkan bir Anthropic modelinin şirkette işe alım için kullanılan iki saatlik mühendislik sınavında tarihteki tüm adaylardan yüksek puan alması bu gidişin erken işareti olarak anılıyor. Sonra yapay zekâ kendi araştırmasını yapar, bilgisayarı insan gibi kullanabilen sanal çalışanlara dönüşür ve milyonlarca grafik işlemci üzerinde yüzlerce kez hızlandırılmış milyarlarca sanal araştırmacı fikri bulma işine koşulur. Buradan çip tasarımı, gerçek dünya simülasyonları, robot kıskaçlarının bariyerini aşma ve ilaç keşfine uzanan yol, bilişsel görevler verimli hale gelince fiziksel görevlerin de kapanmasıyla zenginliğin katlanarak çoğalması olarak resmediliyor ve üç yıllık hız ile yirmi beş yıllık hız arasındaki farkın bile dünya ölçekte devasa olacağı vurgulanıyor.

İkinci uç ise yapay zekânın sıradan bir teknoloji olarak kalması. Burada büyümenin aritmetiği şaşırtıcı biçimde sabırlı ve tarihsel bir çizgiye yaslanıyor.

150 Yılın Yüzde İki Çizgisi ve Karşıolgusal

Logaritmik ölçekte çizilmiş kişi başı reel gelir grafiği, Amerika Birleşik Devletleri'nde son 150 yılda yaşam standartlarının yılda yaklaşık yüzde iki eğimle düz bir çizgi etrafında seyrettiğini gösteriyor. Elektrik şebekesinin yaygınlaşması, içten yanmalı motorlar, jet uçakları, antibiyotikler, vakum tüpleri ve internet gibi devasa dönüşümler yaşanırken çizgi hiç uzaklaşmıyor. Bu ikili görünüm bir bilmece yaratıyor: her teknoloji tekil olarak dünyayı değiştirmişken toplam oran neden hep aynı kaldı?

Yanıt, fikirlerin kendi sınıfı içinde giderek zorlaşması ve karşıolgusalın eğilmesi fikrinde. Sadece buhar makinesiyle kalsaydık veya yalnızca elektrikle yetinip içten yanmalı motorları ve yarı iletkenleri hiç bulamasaydık, o düz çizgi aşağı doğru bükülürdü. Her dalga, bulunduğunda tek başına kalsaydı büyümenin yavaşlayıp çizginin büküleceği bir noktayı düzeltiyor ve yavaşlamayı engelleyerek çizgiyi aynı eğimde uzatıyor. Bu okumaya göre yapay zekânın karamsar versiyonu bile aynı işi yapabilir: düşüşü durdurup yüzde ikiyi elli yıl daha sürdürmek.

Tarih bu sürekliliğin maliyetini de hatırlatıyor. Buhar gücünden elektrik motoruna geçiş tek bir merkezi milden her tezgâha motor koymaya geçiş anlamına geldi ve fabrikanın yeniden organizasyonunu gerektirdi. Bilgi teknolojilerinin yayılması elektronik tablodan kelime işlemciye, veritabanından sorgu diline kadar çok sayıda tamamlayıcı buluşu ve üretim biçimlerinin yeniden kurgulanmasını istedi. Her seferinde dönüşüm on yıllara yayıldı. Buradan çıkarılan ders, dönüştürücü niteliğin eğriyi bükebileceği ama bükülmenin genellikle sanılandan yavaş görüneceğidir.

Zayıf Halkalar — Zincir En Zayıf Yerinden Kopar

Bir iPhone'un yeni sürümünü düşünün; tasarım, parça tedariki, mikron toleransında üretim, yüz milyonlarca cihazın zamanında dağıtımı ve perakende zinciri aynı anda kusursuz işlemek zorunda ve tek bir aksama kısa vadede değerin büyük kısmını eritiyor. Challenger mekiğinin yirmi beş dolarlık kauçuk contası veya çip üretiminde gelişmiş litografi hatlarındaki nanometrik hata, zincir mantığını somutlaştırıyor. Yirmi halkalı bir zincirde on yedisini olağanüstü güçlendirseniz bile kalan üç zayıf halka toplam dayanımı belirlemeye devam eder ve iyileşme sınırlı kalır.

Cebimizdeki cihaz 1970'lerin eşdeğerine göre yüz milyon kat fazla transistör taşır ama araştırma verimliliğimiz yüz milyon kat değil, iki üç kat artmıştır. Çünkü matris hesaplarını makine olağanüstü hızda yapar ama hangi verinin matrise gireceğine, hangi sorunun sorulacağına ve hangi kuramın sınanacağına insan karar verir. Otomasyonun bol ve ucuz kıldığı halka ne kadar güçlenirse güçlensin, kıt kalan halka darboğazı oluşturur ve toplam verim onunla sınırlanır.

Bu bakış ekonomide kıt olanın neden değerli olduğunu da açıklar. Kıtlık yüksek getiriyi doğurur, dolayısıyla her olguda kıt faktör hangisi sorusunu sormak gerekir. Zayıf halka neredeyse orası kıt, orası kazançlı hale gelir ve çocuklarımızın geliriyle ilgili her projeksiyonda aynı soru masaya gelmelidir.

Faktör Payları ve Sonsuz Yazılım Düşünce Deneyi

Gayri safi yurt içi hasılanın kimde kaldığı sorusu yetmiş beş yıl boyunca istikrarlı bir tablo verdi: yaklaşık üçte ikisi emeğe, üçte biri sermayeye gitti. Son çeyrek yüzyılda emeğin payı yaklaşık on puan geriledi ve sermayenin payı yükseldi; otomasyon ve piyasa gücü yoğunlaşması iki ana aday açıklama olarak tartışılıyor. Daha derine inince tablo inceliyor: binalar, ekipman ve bunun içinde bilgisayarların payı ne kadar?

Bilgi işlem gücüne giden payın seyri bu noktada öğretici. Miktar artarken fiyat hızla düşer; doksanlı yılların internet patlamasında pay yüzde dört buçuğa dayandı, 2000'den sonra üçte bir eriyerek yüzde üçe geriledi. Bilgisayar her yerde ama hasıladan aldığı pay düştü, çünkü bolluğun fiyatı baskılaması miktar artışını bastırdı ve insan emeğinin kıt kalan kısımları zinciri belirledi. Bu, zayıf halka modelinin öngördüğü yönle birebir örtüşüyor.

Bu sezgiyi keskinleştiren basit bir düşünce deneyi sonsuz yazılım fikridir. Soru şu: tüm yazılım ihtiyaçları sınırsız ve bedava olsa ne kadar zenginleşirdik? Zayıf halkalar matematiği yanıtı doğrudan veriyor: sonsuz miktara çıkan bir görevin hasılaya katkısı o görevin payı kadardır. Yazılım yaklaşık yüzde iki pay taşır, o halde sonsuz yazılım yaklaşık yüzde iki zenginleştirir. Tek bir halkayı muazzam güçlendirmek zinciri kurtarmaz; iyileşme için zayıf halkaların sırayla güçlenmesi gerekir ve bu dinamik bir model ister.

Model ve İki Kalibrasyon

Modelin omurgası fikirlerin uzun dönem büyümenin kaynağı olduğu fikrine dayanır ve hem mal hem fikir üretiminde zayıf halkalı üretim fonksiyonları kullanır. Matris hesaplarının bir zamanlar kâğıt kalemle, otomobil sürüşünün elle yapılması gibi görevlerin zamanla otomatikleşmesi, daha iyi makineler icat edildikçe otomasyonun içsel olarak ilerlemesini yansıtır. Model 1950'lerden bu yana Amerika verisine kalibre edilir ve ileriye koşulur; sunumda rakamların birebir ciddiye alınmaması, mekanizmaların sezgisini görmek gerektiği özellikle vurgulanır.

Modelin iki motoru bu yüzden birlikte çalışır. İlki otomasyonun yeni fikir doğurması, yeni fikirlerin daha fazla otomasyona kapı açması ve olumlu geri beslemenin patlamayı istemesi. İkincisi zayıf halkaların freni; bazı görevler otomatikleşirken diğerleri kıt kalır ve zincir zayıf kalmaya devam eder. Geçmişin otomasyon izleri iki yüzyıla yayıldığı için model iki kalibrasyonla koşulur: biri tarihsel otomasyon temposunun devamı, diğeri muazzam bir kopuşu temsil eden agresif senaryo olarak tüm ekonomide makinelerin bugünden itibaren her yıl yüzde on iyileştiği varsayımı.

Üç Renkli Simülasyon: Mor, Yeşil ve Mavi

Simülasyonun ilk seti sermaye ve emek paylarının geleceğini üç renkte izliyor. Mor senaryo insanın özel bir yeri olmadığını, her şeyin sonlu sürede otomatikleştiğini varsayar ve sermaye payı yüzde yüze giderken emek sıfıra iner. Yeşil senaryo insanların saklı tutulduğu yüzde üçlük bir küme tanımlar ve o yüzde üç şişe boynuna dönüşür; sonsuz iyi yapılan yüzde doksan yediye rağmen kıt kalan insan emeği zinciri belirler, emek payı yüzde yüze doğru tırmanır. Mavi taban senaryo ortadadır ve paylar üçte bir ile üçte ikide istikrarlı kalır.

Büyüme oranlarının aynı üç renkte izi daha da öğreticidir. Mor tam otomasyonda oranlar patlayarak sonsuza gider; yeşil insana bağımlı şişe boynu oranı insanların iyileşme hızıyla sınırlar. Mavi taban ise yavaş hızlanan bir patlamayı gösterir ama ivme son derece sabırlıdır. 2050'de yüzde ikiden yüzde iki virgül üçe, sonra yüzde iki virgül altıya ve üçe tırmanış görülür. Seviye grafiğinde turuncu kesikli yüzde iki izine göre 2050'de yalnızca yüzde dört, 2075'te yüzde on beş fazla zenginlik birikir. Patlama vardır ama zayıf halkalar patlamayı yüzyıla yayar ve önümüzdeki yetmiş beş yıl boyunca hangi renk senaryoda olduğumuzu ayırt etmek güçleşir.

Agresif ikinci set, Moore temposunun tüm ekonomiye bugünden yayıldığını varsayar ve eksenler değişir. Bu kez büyüme bugün yüzde dörtten fazla başlar, 2040'ta yüzde yedi ve on üçe koşar, 2050'de yıllık yüzde yirmi beşin üzerine çıkar. 2030'da bile bugüne göre yüzde elli daha zengin bir seviye görülür. Yine de tam patlama otuz yıl ister. Ders aynı kalır: zincir zayıf halkaları teker teker aşmadan hızlanmaz ve bu çok agresif varsayımda bile tablo son altı yılın gerçekleşen yüzde ikisinden uzak kaldığı için aşırı iyimser bulunduğu notu düşülür.

Görev Demetleri, Eşitsizlik ve Kırılganlık

İşler tek bir görev değil, görev demetleridir ve her işte yüz ayrı görev birlikte yürütülür. Bu yüzden bir meslekte görevlerin dörtte üçü otomatikleştiğinde kalan zayıf halkalar kıt ve değerli hale gelir. 2016'da derin öğrenmenin öncülerinden birinin artık radyolog yetiştirmeyelim öngörüsü, çok boyutta modelin insandan iyi olmasına rağmen istihdam verisiyle ters düştü; bugün radyolog sayısı ve ücretleri 2016'ya göre daha yüksek seyrediyor. Model taramayı yorumlamada yardımcı olurken hekim cerrahi danışmada, meslektaşla müzakere ve en zor vakaların çift kontrolünde kıt kalmaya devam ediyor ve otomasyon verimliliği artırıp ücreti yukarı çekiyor. Uber sürücüsünde ise tablo tersine dönebilir; savunma ajansının 2004'te kimse bitiremeyen arazi yarışından Stanford'un 2005'te kazanan aracına ve günümüzde sınırlı yaygınlığa uzanan yirmi yıllık yol, fiziksel dünyanın bilişsel dünyadan daha yavaş otomatikleştiğini gösteriyor.

Eşitsizlik ve anlam soruları aynı çerçeveden okunuyor. Tarihsel olarak emek, insanların tüketime erişmek için takas ettiği ana varlık oldu ve makineler daha iyisini yapınca emeğin takas değeri sorgulanır. İyimser okuma bolluk dünyasına işaret eder: patlama senaryolarında hasıla muazzam yükselir, zengin ülkeler zaten yeniden dağıtım yapar ve hükümet vergi sistemi üzerinden hasılanın önemli bir ortağı gibidir. Borsada hisse sahibi olanlar sermaye gelirinden pay alırken asıl kırılganlık hisse sahibi olmayanlarda yoğunlaşır. Kişisel düzlemde ise modelin matematikte kendisini yakaladığını söyleyen profesör, anlamın yarısını büyüme modelleri kurmaktan aldığını ve yaz kampında çömlek yapmaya, şarkı söylemeye ve yapay zekânın öğrettiği son modeli dostlarla tartışmaya evrilecek bir emeklilik metaforu kuruyor.

Yine de sunumun son bölümü iyimserliği frenliyor ve iki tür yıkıcı riski açıkça masaya koyuyor. İlki kötü aktör riski: her modelin çıkış günü kırıldığı bir dünyada sekiz milyar kişinin kırmızı butona erişmesi, daha ölümcül ve aylarca belirti göstermeyen bir virüs tasarımının jailbreak edilmiş bir modele sorulabilmesi ve elektrik şebekesi ile finansal sistemin hacklenmesi ihtimalidir. İkincisi daha spekülatif görünen yabancı zekâ benzetmesi: bu akşam Plüton'dan gelen bir uzay gemisi haberi alsak önce heyecanlanır sonra ileri toplumların daha az ileri olanlarla karşılaşma tarihini hatırlardık; Berkeley'den bir bilgisayar bilimcisinin 'bizden güçlü varlıklar üzerinde gücü sonsuza dek nasıl koruruz' sorusu bu gerilimi özetler. Zayıf halka dünyası faydayı yavaş biriktirirken kırılganlığı hızla büyütür; Mythos benzeri bir modelin yirmi beş yıllık yazılımlarda binlerce açığı bulması ve Mythos'un açık kaynak sürümünün bir yıl içinde herkesin eline geçebileceği uyarısı, faydanın yavaş kırılganlığın erken gelebileceğini düşündürür. Kapanışta sorulan '1990 ile 2020 arasında internet dünyayı ne kadar değiştirdi, 2015 ile 2045 arasında yapay zekâ kaç internet eder' sorusuna yanıt 'birden fazla, muhtemelen çok' olurken, araya giren yılların eşitsizlik, işgücü ve yıkıcı risklere hazırlanmak için kullanılması çağrısı yapılıyor.