Kral Charles'tan Yapay Zekâ Uyarısı: Yanlış Ellerde Varoluşsal Tehlike

DW News tarafından yayımlanan kısa videoda Kral Charles, yapay zekânın yaşam bilimlerinden tıbba uzanan büyük iyileştirme ve hayat kurtarma kapasitesini teslim ederek söze başlıyor. Ancak hemen ardından ton değişiyor; bu teknolojileri inşa edenlerin kendilerinin bile giderek daha karanlık kapasiteler konusunda uyardığını hatırlatıyor ve insan hayatını alma ihtimaline kadar uzanan risklere dikkat çekiyor. Böylece övgü ve uyarı aynı cümle içinde yan yana duruyor.

Dumfries House'ta İskoçya zirvesi

Konuşma, 17 Eylül 2026'da İskoçya'nın Doğu Ayrshire bölgesindeki Cumnock yakınlarında bulunan Dumfries House'ta yaptığı zirvede kayda geçti. Kraliyet ailesinin açıklamasına göre 18. yüzyıldan kalma bu malikâne, Ditchley Foundation kolaylaştırıcılığında yaklaşık otuz ila altmış davetliyi bir araya getirdi. Amaç, yapay zekânın topluma fayda sağlayacak, yerel toplulukları güçlendirecek ve yaşamları iyileştirecek şekilde nasıl geliştirilip konuşlandırılacağını ele almaktı. Kısa Shorts klibi, bu daha geniş günün yalnızca bir dakikalık özeti gibi duruyor.

Salondaki liste, sektörün ağırlığını gösteriyor. Nvidia, Google DeepMind, OpenAI ve Anthropic temsilcileri davetliydi; Nvidia'dan Jensen Huang, DeepMind'dan Demis Hassabis, OpenAI'dan finans direktörü Sarah Friar ve Anthropic'ten küresel ilişkiler sorumlusu Tino Cuéllar adları öne çıkıyor. Onlara Birleşik Krallık Yapay Zekâ Bakanı Kanishka Narayan, Papa'nın danışmanı Peder Paolo Benanti, King's Trust ve King's Foundation ile Sürdürülebilir Piyasalar Girişimi'nden isimler eşlik etti. Farklı geçmişlerden gelen bu karışımın bilinçli seçildiği ve Kral'ın uzun süredir savunduğu diyalog yaklaşımıyla uyumlu olduğu vurgulandı.

İki basit soru: güvenlik ve iş birliği

Kral Charles, Birleşik Krallık'ın 2023'te Bletchley Park'ta düzenlediği Yapay Zekâ Güvenlik Zirvesi'ne gönderdiği mesaja atıfla iki basit soru sordu. Birincisi, yapay zekânın faydalarını güvenliği merkeze alarak nasıl kullanabileceğimiz; ikincisi ise hiçbir ulusun geride kalmaması ve insan ırkının yerinde kalması için uluslararası iş birliği ve mutabakatı nasıl kurabileceğimiz. Saray açıklamasına göre katılımcılardan bu sorular etrafında teknolojiyi yalnızca verimlilik aracı değil, insan onurunu koruyan ve hem insanlığın hem gezegenin gelişimini destekleyen bir araca dönüştürecek ortak ilkeler üzerinde düşünmeleri istendi.

Videoda alıntılanan en keskin cümle ise doğrudan kontrol meselesine gidiyor. Kral, bu teknolojilerin yanlış ellere geçmesi ve potansiyel olarak felaketle sonuçlanacak biçimlerde kullanılması halinde ortaya çıkacak varoluşsal tehlikelerin yeterince düşünülmesi için aciliyet olduğunu söylüyor. Yeterli kontrol araçlarının çok geç olmadan kurulması gerektiğini vurguluyor ve insanlığı ile ahlaki bileşenini derinden önemseyen insanların, kaderimizin ya da ruhumuzun kontrolünü kaybetmeyeceğimize dair güvence beklediğini aktarıyor. Bu ifade, sarayın yayımladığı tam metinde de aynı sözcüklerle yer alıyor.

Varoluşsal uyarı neden şimdi

Uyarının zamanlaması tesadüf değil. Son aylarda sınır modelleri geliştiren laboratuvarların içinden bile düzenleme ve güvenlik çabalarının hızla güçlenen sistemlerin gerisinde kaldığına dair sesler yükseliyor. BBC ve Reuters aktarımlarına göre zirve, bu endişelerin yoğunlaştığı bir döneme denk geldi ve saray, ilkelerin birkaç ay içinde yazıya dökülmesini hedeflediğini duyurdu. Kral'ın konuşmasındaki kararlılıkla birlikte geleceğe bırakılacak dünyayı şekillendirecek kararların bu erken dönemde alınması gerektiği vurgusu, kısa klibin neden dünya gündeminde hızla yayıldığını da açıklıyor.