Dijital dünyada çocuk güvenliğinin giderek daha önemli hale gelmesiyle, Google, OpenAI, Roblox ve Discord gibi sektör devleri, birlikte çalışarak ROOST (Sağlam Açık Çevrimiçi Güvenlik Araçları) adlı yeni bir girişimi hayata geçirdi. ROOST, temel güvenlik teknolojilerini daha erişilebilir kılmak ve çocuk cinsel istismarı materyallerini tespit etmek, incelemek ve raporlamak için açık kaynaklı yapay zeka araçları geliştirmeyi amaçlıyor.
Eski Google CEO’su Eric Schmidt, ROOST’un “çevrimiçi çocuk güvenliğinde yeniliği hızlandırmak için kritik bir ihtiyaca” yanıt verdiğini belirtti. Schmidt, ROOST’un işbirlikçi ve açık kaynaklı yaklaşımının, herkes için daha güvenli bir internet yaratmaya yardımcı olacağını ve temel altyapıyı daha şeffaf, erişilebilir ve kapsayıcı hale getireceğini ifade etti.
Bu yeni girişim, özellikle Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’nin (NCMEC) 2022 ile 2023 arasında şüpheli çocuk istismar vakalarında %12’lik artışı rapor etmesi ışığında büyük önem kazanıyor. 2020 itibarıyla ABD’li çocukların yarısından fazlasının Roblox gibi platformlarda vakit geçirmesi, çocuk güvenliği konusundaki endişeleri daha da artırmıştı. Daha önce Roblox ve Discord, platformlarında yetişkin gözetimi olmaksızın çocuklara mesaj göndermeyi engelleyemedikleri için eleştirilmişti.
ROOST, sadece kendi araçlarını geliştirmekle kalmayıp, aynı zamanda sektördeki diğer şirketlerin de kolayca entegre edebileceği bir çözüm sunmayı hedefliyor. Önde gelen AI temel modeli geliştiricileriyle kurulacak ortaklıklar sayesinde, doğrulanmış eğitim veri kümeleri sağlanarak mevcut güvenlik araçlarındaki boşluklar kapatılacak. Örneğin, Roblox’un mühendislik ve güvenlik ekibi başkan yardımcısı Naren Koneru, ROOST’un şirketlerin API çağrıları aracılığıyla entegre edilebilecek bir AI moderasyon sistemi sunabileceğini belirtti; ancak, bu araçların tam olarak neleri içereceği henüz netlik kazanmış değil.
Ayrıca, hala Türkiye’de yasaklı olan ve bir çok konuda gündeme oturan Discord da bu güvenlik hamlesine paralel olarak, kullanıcıların sessize aldıkları kişilere bildirim göndermeden gelen mesajları gizleyebilecekleri yeni bir “Yoksay” özelliğini tanıttı. Discord’un Baş Hukuk Sorumlusu Clint Smith, “Discord’da güvenliğin ortak bir iyilik olduğuna inanıyoruz. Sadece platformumuzu değil, tüm interneti, özellikle gençler için daha güvenli bir yer haline getirmeye kararlıyız,” diyerek açıklamada bulundu.
ROOST, McGovern Vakfı, Future of Online Trust and Safety Fund, Knight Vakfı ve AI Collaborative gibi saygın hayırsever kuruluşların desteğiyle, ilk dört yıllık operasyonlarını desteklemek için 27 milyondan fazla finansman topladı. Bu finansman, çocuk güvenliği, yapay zeka, açık kaynaklı teknoloji ve şiddet yanlısı aşırılıkla mücadele konularında uzman kişilerin desteğini de beraberinde getiriyor.
ROOST girişimi, çevrimiçi çocuk güvenliğini artırma konusunda büyük bir adım olarak görülüyor. Google, OpenAI, Roblox ve Discord gibi devlerin desteğiyle hayata geçirilen bu projeyle, internetin daha güvenli ve kapsayıcı hale gelmesi hedefleniyor. Kuruluşun geliştireceği araçlar ve ortaklıklar, çocukları korumada önemli bir rol oynayacak ve yasal düzenleyicilerle işbirliği içinde, çevrimiçi platformlardaki güvenlik standartlarını yükseltmeye yardımcı olacak.