Döngüdeki İnsan Yönetişim Stratejisi Değildir: Etmenli Yapay Zekada Gerçek Gözetim

Her yapay zeka yönetişim toplantısında aynı anı yaşadım: biri yüksek riskli bir karara makinenin karışmasından endişe eder, bir başkası döngüde bir insan olduğunu söyler ve oda rahatlar. Kulağa çözüm gibi geliyor. Oysa bir insanın çıktıyı yayına girmeden önce gözden geçirmesi, sistemin yönetildiği anlamına gelmez; çoğu zaman sorumluluğun bir imzayla aklandığı anlamına gelir. IBM bünyesindeki çalışmasıyla tanınan Phaedra Boinodiris bu tabloya sorumluluk aklama adını veriyor ve IBM imzasıyla yayımlanan eşlikçi yazı bu uyarıyı ayrıntılandırıyor.

Boinodiris işe insanların birbirine nasıl güvendiğini hatırlatarak başlıyor. Bir meslektaşınızın raporunu ne kadar didik didik edeceğiniz, o kişinin güveni hak edip etmediğine bağlıdır; güven otomatik verilmez, zamanla birikir. Dayandığı beş davranış sezgiseldir: çıktılarda gerçek kanıta yaslanmak, aynı koşullarda tutarlı sonuç üretmek, karar türüne uygun yöntemi seçmek, kendi çıkarı yerine ekibin iyiliğini gözetmek ve koşullar değiştiğinde aynı kişi olarak kalmak.

Bu beş davranışın her biri yapay zekada teknik bir karşılığa bağlanıyor. Kanıt, şeffaflığa dönüşüyor: model hangi veriyle, hangi yöntemle beslendi, bu seçimler doğrulandı mı? Tutarlılık, açıklanabilirlik oluyor: bu kişi için bugün neden bu çıktı üretildi? Yönteme uygunluk, gözlenebilirliğe: özellikle ajan temelli yapay zekada koşullar değişirken sistem hâlâ doğru çalışıyor mu? Öz-yönelim, algoritma optimizasyonuna: model aslında ne için ve kimin için optimize edildi? Süreklilik ise hasımlara karşı dayanıklılığa: modele dışarıdan müdahale edildi mi?

Gözlenebilirlik vurgusu boşuna değil; hedefe giden bir ajan araç çağırıyor, kararları zincirliyor ve her adımda gözden kaybolma riski büyüyor. Dataiku ekiplerinin yayımladığı yönetişim desenleri bu yüzden denetimi akışın içine gömüyor: kritik eşiklerde durdur-devam et noktaları, riskli eylemlerde onay geçitleri ve arızada kontrolü insana devreden yükseltme yolları. Dataiku araştırmasının işaret ettiği tablo ciddi: veri liderlerinin yalnızca yüzde beşi yapay zeka çıktılarının her seferinde izlenebilir olduğunu söylüyor. İz yoksa denetim de yoktur.

Hukuk zaten bu yöne kaymış durumda. AB Yapay Zeka Yasası'nın 14. maddesi, yüksek riskli sistemlerin gerçek kişilerin gözetimine imkân verecek şekilde tasarlanmasını şart koşuyor. IAPP yorumları bu maddenin altını çiziyor: gözetim, sistemin amaçlandığı gibi kullanıldığını ve yaşam döngüsü boyunca etkilerinin ele alındığını garanti altına almalı. Airia ayrımı daha da keskinleştiriyor: ekrandaki genel bir onay düğmesi zayıf denetimdir; güçlü denetim, politikaya dayalı, kayıtlı ve yaptırımı olan denetimdir. Kanun bir insan baksın demiyor, insanın gerçekten görebilmesini ve durdurabilmesini istiyor.

Öte yandan Boinodiris, döngüdeki insanın modele indirgenemez bir şey kattığını söylüyor: veriyi değil koşulları okumak. Bir dosya tek hikâye anlatırken bir hayat başka hikâye anlatabilir; soru, çıktının ne dediği değil, bu kararın bu insanın hayatında ne anlama geldiğidir. Sosyal hizmet uzmanları, etikçiler, tarihçiler, danışmanlar — on yıllardır birikimleri teknoloji kararlarına katılamayacak kadar teknik dışı sayılan kesimler — tam da bu soruyu soranlardır. Synclovis analizinin yüksek riskli adımlarda ısrar ettiği insan onayı da aynı sezgiye dayanır: milyonların hayatını etkileyen sistemleri, hayat inceleyen kimse olmadan kurduk.

Kapanışta dört soruluk bir test öneriliyor: denetleyen kişi modelin muhakemesini görebiliyor mu, süreci durdurma yetkisi var mı, doğru ölçüm düzenekleri ve geri bildirim döngüleri kurulu mu? Dördü de yoksa eldeki şey yönetişim değil, koltukta oturan insan saymaktır. Yine de karamsar bir son yok: muhakemeyi görebilen, süreci durdurabilen ve modele ait olmayanı masaya getiren bir insan, yönetişimin başlangıcıdır. Soru döngüde insan var mı değil, o insanın gerçekten yapacak işi var mı olmalıdır.