OpenAI, ChatGPT kullanılarak oluşturulan metinleri tespit edebilen yeni bir teknoloji geliştirdiğini doğruladı. Bu metin filigranlama aracı, özellikle eğitim alanında hile yapan öğrencileri tespit etmek için kullanılabilecek potansiyele sahip.
OpenAI, blog güncellemesinde, “Ekiplerimiz, alternatifleri araştırırken dikkate almaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdi.” açıklamasını yaptı. Wall Street Journal’ın haberine göre, bu yeni araç oldukça yüksek doğruluk oranına sahip.
Ancak, aracın kullanıma sunulup sunulmaması konusunda şirket içinde tartışmalar devam ediyor. OpenAI, aracın potansiyel etkilerini değerlendiriyor ve şu an için yayınlamama kararı aldı.
Şirket, aracın özellikleri hakkında şu bilgileri paylaştı:
- Yerelleştirilmiş kurcalamalara karşı etkili: Paraphrase gibi küçük değişiklikleri tespit edebiliyor.
- Küreselleştirilmiş kurcalamalara karşı daha az dayanıklı: Çeviri sistemleri kullanmak veya başka bir üretken modelle yeniden ifade etmek gibi yöntemlerle aşılabiliyor.
OpenAI, metin filigranlama aracını sınıflandırıcılar ve meta veriler gibi diğer çözümlere ek bir araç olarak görüyor. Ancak şirket, aracın kullanımının bazı grupları orantısız etkileyebileceği konusunda endişeli. Örneğin, ana dili İngilizce olmayanlar için yapay zeka kullanımını damgalayabilir.
Bu gelişme, yapay zeka teknolojilerinin etik kullanımı ve eğitim sistemlerine etkisi konusundaki tartışmaları yeniden alevlendirdi. OpenAI, şimdilik görsel-işitsel içerik için kimlik doğrulama araçlarını yayınlamaya öncelik verdiğini belirtti.
Diğer yandan, OpenAI yakın zamanda 64K çıktı belirteçlerini destekleyen GPT-4o Uzun Çıktı‘yı duyurdu. Bu gelişme, Google’ın Gemini 1.5 Flash fiyatını düşürmesiyle birlikte yapay zeka alanında bir fiyat rekabetini de başlattı.
Bu gelişmeler, yapay zeka teknolojilerinin hızla ilerlemesi ve beraberinde getirdiği etik sorunların çözümü konusunda sektörün karşı karşıya kaldığı zorlukları gözler önüne seriyor. Önümüzdeki dönemde, bu tür teknolojilerin kullanımı ve düzenlenmesi konusundaki tartışmaların artarak devam etmesi bekleniyor.