OpenAI, ChatGPT ve Codex'in Avrupa Birliği'ndeki uygun metin çıktılarına önümüzdeki haftalarda görünmez filigran ekleyecek. Şirketin 5 Ekim tarihli duyurusuna göre uygulama tüm planları kapsayacak. Türkiye, ilk bölgesel dağıtımın içinde değil.
API tarafında ise seçili modeller için filigran, dünya genelinde 5 Ekim'den itibaren isteğe bağlı sunuluyor ve varsayılan olarak kapalı kalıyor. Böylece uygulamasında OpenAI modelleri kullanan geliştiriciler bu seçeneği kendileri açabilecek.
Metin filigranı nasıl çalışıyor?
textGrain adlı yöntem, modelin kelime seçimine istatistiksel bir iz yerleştiriyor. Teknik raporda anlatılan sistem, metni üretirken yapılan seçimleri gizli bir anahtardan türetilen değerlerle ilişkilendiriyor. Dedektör de aynı anahtar ve incelenen metin üzerinden bu izi arıyor; okuyucunun göreceği bir damga eklenmiyor.
Filigranı arayan metin dedektörü başlangıçta yalnızca onaylanan araştırmacılara ve uzman kuruluşlara açılacak. OpenAI, kısa metinlerde ve kelime seçiminin daraldığı matematik gibi alanlarda tespitin zorlaştığını belirtiyor. Düzenleme ve çeviri de işareti zayıflatabiliyor.
Bu nedenle filigran bulunamaması, metnin insan tarafından yazıldığını kanıtlamıyor. Bulunması da kullanıcıyı, hesabı veya konuşmayı ortaya çıkarmıyor; insanın metne ne kadar katkı verdiğini, sahipliği ya da içeriğin doğruluğunu belirlemiyor.
Şirketin görsel ve sesler için kullandığı doğrulama araçları ayrı çalışıyor. Desteklenen görsellerde C2PA bilgileri ve SynthID, seslerde ise SynthID kullanılıyor. Bu araçlar dosyanın kökeni hakkında işaret arıyor; metin dedektörüne genel erişim sağlamıyor.
OpenAI'nin metin filigranı üzerinde çalıştığı 2024'te de gündeme gelmişti. O dönemde aracın kullanıma sunulması ertelenmişti. Yeni duyuru, AB'deki dağıtımın kapsamını ve dedektöre kimlerin erişebileceğini netleştiriyor.
Yorumlar
İlk yorumu siz yazın!
Yanıt: —