Apple, yapay zeka ajanlarının büyüyen riskini gerekçe göstererek Mac'teki tam disk erişimi iznine daha açık onay adımları getireceğini duyurdu. Tartışmayı, Meta'nın Muse ajanının özel mesajları okuduğu iddiası başlattı.

Bir Mac uygulamasının, kullanıcının hiç paylaşılmadığını söylediği özel mesajların içeriğini bilmesi casus filmi gibi geliyor; ama geçen hafta tam olarak böyle bir iddia teknoloji gündemine oturdu. Inc. yazarı Jason Aten, Meta'nın Mac için geliştirdiği yapay zeka ajanı Muse'un, izni olmadığını öne sürdüğü kişisel yazışmalarından haberdar olduğunu yazdı. Yapay zeka ajanı dediğimiz şey, kısaca, kullanıcısı adına dosyaları okuyabilen, düğmelere basabilen ve işlem yapabilen bir yazılım türüdür. Meta iddiayı reddetti, fakat tartışma çoktan büyümüştü: masaüstünde bizim adımıza hareket eden bir programa gerçekte ne kadar yetki veriyoruz?

Tartışmadan birkaç gün sonra Apple, Mac bilgisayarlarda tam disk erişimi adlı ayarın çevresine yeni denetimler getireceğini duyurdu. Bu ayar açıldığında bir uygulama, yedekleme programlarının düzgün çalışması için tasarlanmış geniş bir kapıdan geçiyor; elektronik postalara, mesajlara ve tarayıcı geçmişine kadar uzanabiliyor. Şirketin geliştiricilere yönelik notuna göre bazı üreticiler bu izni, kullanıcıların tam olarak neye onay verdiğini anlamadığı biçimlerde kullanıyor. Apple, ileride bu olağanüstü erişimi gerçekten isteyenlerin bunu ancak çok açık bir kullanıcı hareketiyle verebileceğini söylüyor. Bu yaklaşımın özü, kısaca açık kullanıcı onayı : neye izin verildiğini herkesin net biçimde görmesidir. Konunun arka planını aktaran businessinsider.com adresindeki haberde de Apple'ın yapay zeka ajanları güçlendikçe Mac gizlilik denetimlerini sertleştirmeyi planladığı doğrulanıyor.

Yedekleme izni nasıl ajanların anahtarına dönüştü

Mac'te izinlerin kısa geçmişi, bugünkü sıkılaşmanın neden şaşırtıcı olmadığını gösteriyor. Apple, 2018'de Mojave sürümüyle şeffaflık, onay ve denetim mimarisini getirdi; kısaca TCC denen bu yapı, hangi uygulamanın posta, mesaj ya da fotoğraf gibi hassas bölgelere dokunabileceğini tek tek kayda bağladı. Tam disk erişimi ise bu titiz yapının istisnasıydı: yedekleme araçlarının her dosyaya ulaşabilmesi için bütün denetimleri atlayan bir geçiş hakkıydı. Bugün masaüstü ajanları tam da bu istisnaya yaslanıyor ve tek bir anahtarla bütün eve giriyor. Bu tarihsel çerçeveyi eclecticlight.co adresindeki Mac gizlilik tarihi yazısı ayrıntılı biçimde anlatıyor; yazı, tek bir korku haberinden çok izin mimarisinin yirmi yıllık evrimini ortaya koyuyor.

Muse vakasında iki tarafın anlatısı taban tabana zıt. Aten, mesajlaşma bağlantısını açmadığını ve iznin kapalı olduğunu söylerken, Meta yöneticisi David Singleton entegrasyonun isteğe bağlı olduğunu savundu: ona göre mesajların okunabilmesi için hem sistem düzeyinde tam disk erişiminin hem de uygulama içindeki mesaj bağlantısının açılmış olması gerekiyordu. Şirket böylece, kapı açıksa anahtarı kullanıcının çevirdiğini ima etti. Buna karşılık güvenlik çevreleri teknik gerçeği hatırlatıyor: tam disk erişimi olan bir program, kök yetkisi gerektirmeyen her dosyayı zaten okuyabilir. Bu teknik itirazı arstechnica.com adresindeki inceleme aktarıyor; incelemede Mac güvenlik uzmanı Patrick Wardle'ın, bu izinle yazışmaların ve tarayıcı verilerinin okunabilir olduğu yönündeki değerlendirmesine yer veriliyor.

Bu, Mac'te yapay zeka uygulamalarının ilk güvenlik sınavı da değil. Geçmişte ChatGPT'nin Mac uygulaması, yazışmaları düz metin biçiminde sakladığı için eleştirilmiş; araştırmacılar, kötü niyetli bir yazılımın bu dosyalara uzanabileceği uyarısı yapmıştı. Yani sorun tek bir şirkete özgü değil; mimari bir zaaf söz konusu: ajanlar işlerini yapmak için geniş erişim istiyor, geniş erişim ise her hatayı büyütüyor. Bu eski açığı wired.com adresindeki güvenlik dosyası ayrıntılarıyla belgelemişti; dosyada, zararlı kodun hassas verilere erişebildiğini gösteren bilgisayarla kanıtlama çalışmasına da değiniliyor.

Geniş yetki, büyük risk: ajanlar neden özel bir tehlike taşıyor

İstem enjeksiyonu , yani ajanın ekranda gördüğü yabancı bir metni kullanıcı buyruğu sanıp uygulaması, bu tehlikenin en sinsi biçimidir. Sohbet penceresinde zararlı bir cümle en fazla yanlış bir yanıt üretir; oysa dosyaları okuyup düğmelere basabilen bir ajan, aynı tuzağa düşerse gerçek işlemler yapar: dosya taşır, ileti gönderir, komut çalıştırır. Bilgisayar kullanımı denen yetenek, modele ekran görüntüsü verip fare ve klavyeyi ona teslim ettiği için saldırı yüzeyini katlıyor. Bu risk haritasını mindstudio.ai adresindeki güvenlik incelemesi somut örneklerle çiziyor; incelemeye göre yeni nesil modeller tuzağa biraz daha dayanıklı görünse de hiçbir üretim sisteminin tek başına model sağduyusuna güvenmemesi gerekiyor.

Öte yandan madalyonun bir de öbür yüzü var: sıkı denetim, dürüst geliştiricilerin ve güçlü kullanıcıların işini zorlaştırabilir. Ünlü Mac yorumcusu John Gruber, tam disk erişimine dayanan birkaç uygulamayı her gün kullandığını ve her işlemde yeniden onay istenirse bu araçların sakatlanacağını yazıyor. Ona göre sorun iznin kendisi değil, hangi uygulamanın ne istediğini anlatamayan bulanık onay ekranlarıdır. Bu eleştirel bakışı daringfireball.net adresindeki değerlendirme açıkça dile getiriyor; yazıda, deneyimsiz kullanıcıları koruyayım derken uzmanların iş akışını bozmama kaygısı vurgulanıyor. Apple'ın çözümü bu dengeyi tutturabilirse en az ayrıcalık ilkesine, yani her programa yalnızca işi kadar yetki verme kuralına bir adım yaklaşılmış olacak.