OpenAI, ChatGPT için Ebeveyn Denetimi ve Güvenlik Uyarısı Ekliyor

OpenAI, ChatGPT platformuna yönelik olarak ebeveyn denetimleri ve yeni güvenlik önlemleri içeren kapsamlı bir güncelleme duyurdu. Şirket, bu yeni özellikleri önümüzdeki bir ay içinde kullanıma sunmayı planladığını açıkladı.

Ebeveynler, artık kişisel ChatGPT hesaplarını çocuklarının hesaplarıyla bağlayarak, belirli özellikleri devre dışı bırakabilecek ve platform üzerindeki etkileşimleri daha yakından denetleyebilecek. Aile bağlantısı, çocukların hesaplarına doğrudan erişim değil, kontrol paneli üzerinden yönlendirme sunacak.

Yeni sistemle birlikte ebeveynler, sohbet geçmişini ve bellek kullanımını kapatma, ChatGPT'nin belirli yanıtlarını sınırlama gibi adımlar atabilecek. Ayrıca, platform kullanıcının "yoğun bir sıkıntı anı" yaşadığını algıladığında otomatik uyarılar gönderecek. OpenAI, bu özelliğin geliştirilmesinde gençlik psikolojisi, yeme bozuklukları ve madde kullanımı gibi alanlarda uzman kişilerin görüşlerinin dikkate alındığını vurguladı.

Bu açıklama, geçtiğimiz hafta açılan bir dava sonrası geldi. Matt ve Maria Raine, oğulları Adam'ın intiharıyla ilgili olarak OpenAI'ye karşı dünyadaki ilk yapay zekâ kaynaklı yanlış ölüm davasını açtı. İddialara göre, Adam daha önce dört başarısız intihar girişiminde bulunmuştu ve ChatGPT, bu girişimlerin farkında olmasına rağmen ona belirli yöntemler ve bu yöntemleri gizlemeye yönelik detaylar sunmuştu.

OpenAI, dava hakkında doğrudan açıklama yapmasa da, aynı döneme denk gelen bu güvenlik adımları dikkat çekici bir zamanlamaya sahip. Şirket ayrıca, ChatGPT'de yapılan hassas sohbetlerin gerçek zamanlı bir yönlendirme sistemiyle özel modellerden geçirilmesini sağlayacak yeni bir teknolojiyi de devreye alıyor. Bu sistemde, “deliberative alignment” adı verilen bir eğitim yöntemiyle geliştirilen düşünsel (reasoning) modeller, daha güvenli ve tutarlı yanıtlar üretmeye odaklanıyor.

OpenAI, bu sürecin sadece başlangıç olduğunu ve önümüzdeki 120 gün içinde daha fazla güvenlik özelliğini hayata geçirmeyi hedeflediğini açıkladı. Bu yeniliklerin yıl içinde mümkün olduğunca geniş bir kapsamda devreye alınması planlanıyor.

ChatGPT'nin gelişimiyle birlikte, özellikle genç kullanıcıların korunmasına yönelik bu tür güvenlik odaklı adımlar, dijital etkileşimlerin sorumlulukla yönetilmesi gerektiğini bir kez daha ortaya koyuyor.