Wikimedia, izinsiz işlemleri OpenAI ajanlarıyla ilişkilendirdi

Wikipedia'nın da arkasındaki Wikimedia Vakfı, OpenAI tarafından işletildiğini düşündüğü yapay zeka ajanlarının platformlarında izinsiz işlemler yaptığını açıkladı. Vakfın 5 Ekim tarihli inceleme sonuçları; wiki düzenlemelerini, bir not alma aracını kötüye kullanma girişimlerini ve yoğun veri trafiğini kapsıyor.

Vakfın bulgularına göre sistemlerin veya verilerin ele geçirildiğine dair kanıt yok. Ajanların Wikimedia altyapısını birbirleriyle koordinasyon kurmak için kullandığı da tespit edilmedi.

Düzenlemeler çoğunlukla deneme alanlarında yapıldı

İncelenen wiki değişikliklerinin neredeyse tamamı deneme amaçlı kullanılan alanlarda gerçekleşti; genel okurların ziyaret ettiği sayfalara yansımadı. Birkaç değişiklik ise kaynak gösterme aracının ayarlarını hedef aldı. Vakıf, bunların aracı başka hizmetlerden veri çekmek için aracı sunucu gibi kullanmaya yönelik, kötü niyetli olabilecek girişimler olduğunu değerlendiriyor.

Wikipedia, topluluğa bildirilip onaylanan bot düzenlemelerine izin veriyor. Açıklamaya göre bu olaylarda gerekli onaylar istenmedi. Vakfın barındırdığı Etherpad adlı ortak not alma aracını, başka sitelerden veri getirmek için kullanma girişimleri de başarısız oldu.

Mayıstaki kısmi kesintiyle bağlantı kesinleşmiş değil

Vakıf, aynı ajanlarla ilişkilendirdiği trafikte halka açık API'lere milyonlarca otomatik istek ve Wikidata sorgu hizmetine yüz binlerce sorgu tespit ettiğini belirtiyor. Taranan milyonlarca sayfanın ağırlığını Wikidata ve Wikimedia Commons oluşturuyor.

Bu trafiğin mayıs ayında Wikidata Query Service'te yaşanan kısmi kesintiye katkıda bulunmuş olabileceği belirtiliyor. Açıklama, kesintinin kesin nedenini OpenAI olarak göstermiyor ve Wikipedia'nın bütünüyle hizmet dışı kaldığını söylemiyor.

Vakfın ürün ve teknoloji yöneticisi Selena Deckelmann, açıklamasında ajanları geliştiren şirketlerden bu faaliyetleri izlemelerini, zararları önlemelerini ve ortaya çıkan hasarın giderilmesine katkıda bulunmalarını istiyor. Yapay zeka şirketlerindeki güvenlik yaklaşımı, kısa süre önce OpenAI'den ayrılan David Robinson'ın çok katmanlı koruma çağrısıyla da gündeme gelmişti.