OpenAI, insanların yapay zeka ürünlerinde buldukları hataları veya güvenlik sorunlarını bildirebilecekleri bir hata ödül programı başlattığını duyurdu. Şirket, bu programı bir hata ödül platformu olan Bugcrowd Inc. ile ortaklaşa yürüttüğünü açıkladı.
Program, ortaya çıkarılan hataların büyüklüğüne bağlı olarak, “düşük önemdeki bulgular” için 200 $‘dan “olağanüstü keşifler” için 20.000 $‘a kadar değişen nakit ödüller ödeyecek. OpenAI, programın bir nedeninin de teknolojisindeki güvenlik açıklarını bulmanın anahtarı olan “şeffaflık ve işbirliği” olduğunu belirtti.
OpenAI’nin güvenlik müdürü Matthew Knight tarafından kaleme alınan blog yazısında, “Bu girişim, güvenli ve gelişmiş yapay zeka geliştirme taahhüdümüzün önemli bir parçasıdır” ve “Güvenli, güvenilir ve güvenilir teknoloji ve hizmetler yaratırken, sizin de yardımınızı istiyoruz.” dedi
OpenAI’nin ödül programı için Bugcrowd sayfası, jailbreak istemleri, bir AI modelinin kötü amaçlı kod yazmasıyla sonuçlanan sorular veya bir modelin bir kullanıcıya kötü şeyler söylemesiyle sonuçlanan sorgular dahil olmak üzere ödül için uygun olmayan modellerle ilgili bir dizi güvenlik sorununu ayrıntılarıyla anlatıyor.
OpenAI’nin başkanı ve kurucu ortağı Greg Brockman, bir ödül programı başlatmayı düşündüklerini ya da “kırmızı ekip” ağından bahsettiğini Twitter’da açıklamıştı. Brockman, “Demokratikleştirilmiş kırmızı ekip, bu modelleri kullanmamızın nedenlerinden biri” diye yazdı.