Lacivert zeminde kalkan içine yerleştirilmiş sarı ROOST logosu © Görsel – Gamizm

ROOST Coop’a OpenAI destekli çocuk güvenliği aracı

Coop, OpenAI’ın yeni görsel sınıflandırıcısını ekledi. Onaylanan kuruluşlara ücretsiz erişim sunuluyor; insan incelemesi ve bildirim altyapısı şart.

Profil fotoğrafı: Hande Tanay Hande Tanay 2 dk 0 yorum

Küçük platformların çocuk güvenliği için büyük şirketler kadar kapsamlı sistemler kurması kolay değil. ROOST, bu açığı azaltmak için açık kaynaklı içerik denetim platformu Coop’a OpenAI’ın yeni görsel sınıflandırıcısını ekledi. 16 Kasım’da duyurulan entegrasyon, daha önce tespit edilmemiş çocuk cinsel istismarı materyallerinin belirlenmesine yardımcı olmayı amaçlıyor.

Aracın farkı, yalnızca önceden bilinen dosyaları aramaması. Dijital parmak izi eşleştirmesi daha önce kayda alınmış içerikleri tanırken, yeni sınıflandırıcı görseldeki işaretleri değerlendirerek şüpheli içerik için bir skor üretiyor. Yapay zekâyla oluşturulmuş olabilecek istismar materyalleri için de ayrı bir sinyal sunuyor. Bu skorlar kesin hüküm yerine, inceleme ekiplerinin öncelik belirlemesine yardımcı olmak için kullanılıyor.

Ücretsiz erişim, denetimsiz kullanım anlamına gelmiyor

OpenAI, araca erişimi başvurusu incelenip onaylanan kuruluşlara ücretsiz sağlıyor. Başvuranların işaretlenen içerikleri insan incelemesinden geçirebilmesi ve ABD Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne (NCMEC) bildirim yapabilecek bir sürece sahip olması gerekiyor.

Coop bu işin inceleme kuyruğu, karar kaydı ve bildirim bölümünü aynı platformda topluyor. Kendi sunucusunda çalıştırılabilen sistemde yeni sınıflandırıcı, mevcut tespit araçlarının yanına ekleniyor. Böylece ekiplerin her yeni araç için ayrı bir inceleme altyapısı kurması gerekmiyor. Ücretsiz yazılım ve sınıflandırıcı erişimi ise kuruluşun sunucu ve uzman personel ihtiyacını ortadan kaldırmıyor.

Çevrimiçi çocuk güvenliği araçlarını erişilebilir kılmak için kurulan ROOST açısından bu adım, küçük toplulukların ve platformların da kullanabileceği bir güvenlik altyapısı oluşturma hedefinin devamı. Coop ayrıca 9 Kasım’da Digital Public Goods Alliance’ın dijital kamu malları siciline alındı. Bu tanınma açık lisans, dokümantasyon ve gizlilik gibi ölçütlerle ilgili; sınıflandırıcının hatasız çalıştığına dair bir güvence değil.

Yayımlanan model kartı, aracın sınırlamalarını da açıklıyor. Gerçek kullanım koşullarındaki sonuçlar değerlendirme verilerinden farklılaşabiliyor ve video henüz test edilmiş değil. Entegrasyon ayrıntıları ile başvuru sürecine ROOST’un resmî duyurusundan ulaşılabiliyor.

Hande Tanay
Hande Tanay Editör

Ege Üniversitesi RTS mezunu Hande Tanay, altı yılı aşkın süredir dijital medya ve oyun kültürü üzerine çalışıyor. Oyun anlatısı, sinematik tasarım ve kültürel etkiler konularında derin analizler sunar. “Dijital Çağda Oyun Kültürü” araştırmalarına katkı sağlar. Uzmanlık: Oyun Anlatısı • Dijital Medya • Hikaye Odaklı Oyunlar • Oyun-Sinema İlişkisi

Paylaş

Yorumlar

İlk yorumu siz yazın!

Bunlar ilginizi çekebilir