Microsoft CEO’su Satya Nadella, şirketlerin kullandığı yapay zeka ajanlarını görev ortasında durdurabilecek bir insan denetimi kurulmasını istiyor. 10 Ekim’de yayımladığı yazıda, hassas verilere erişen ve önemli işlemler gerçekleştiren modellerin yetkilerinin modelin dışında belirlenmesi gerektiğini savundu.
Nadella’nın yaklaşımı, modelleri mutlaka kötü niyetli kabul etmeye dayanmıyor. Önemli sistemlere erişebilen herhangi bir aktörün hata yapabileceği veya ele geçirilebileceği düşüncesinden hareket ediyor. Bu nedenle kimlik tanımlama, sınırlı yetki, faaliyet kaydı ve erişim sınırları gibi kurumsal güvenlik uygulamalarının yapay zekaya da uygulanmasını öneriyor.
Denetimi başka bir modele bırakmak yeterli değil
Modellerin birbirini test etmesini yararlı bulsa da bunun tek başına güvence sağlamadığını belirtiyor. Bir modelin davranışını yine başka bir kapalı sistemin değerlendirmesi, insanların sonucu bağımsız biçimde inceleyebilmesini zorlaştırabiliyor.
Önerdiği yedi ilke; model çeşitliliği, bütün önemli işlemlerin kayda alınması, sistemin sürekli test edilmesi, bağımsız yetki kontrolleri, bağımsız denetim, modellerin sınırlandırılması ve olayların açıklanması. Kayıtların insanlar tarafından okunabilir ve değiştirilemez olması, testlerin de hataları ve saldırıları kapsaması gerektiğini vurguluyor.
Yetkili bir kişinin modeli çalışırken duraklatabilmesi veya kapatabilmesi, bu çerçevenin acil freni. Nadella, sorun yaşandığında etkilenenlerin zamanında bilgilendirilmesini ve hangi kontrollerin başarısız olduğunun paylaşılmasını da istiyor.
Ajanların yetki sınırları, Wikimedia Vakfı’nın OpenAI ajanlarıyla ilişkilendirdiği izinsiz işlemleri açıklamasıyla da gündeme gelmişti. Vakıf, sistemlerin veya verilerin ele geçirildiğine dair kanıt bulmadığını belirtmişti.
Yorumlar
İlk yorumu siz yazın!
Yanıt: —