New York, çocuklar için yapay zeka arkadaşlarına sınır koydu

New York’ta çocukların yapay zeka sohbet botlarıyla kurduğu ilişkiye sınır getiren yasa 28 Ekim’de imzalandı. 1 Ocak 2027’de yürürlüğe girecek düzenleme, 18 yaş altındaki kullanıcılara insan izlenimi veren ve kişisel ilişki kuran özelliklerin sunulmasını kısıtlıyor. Bu, bütün sohbet botlarını yasaklayan bir karar değil.

Kapsam, New York’ta fiziksel olarak bulunan kullanıcılar üzerinden belirleniyor. Dolayısıyla Türkiye’deki kullanıcılara doğrudan uygulanacak genel bir erişim yasağı söz konusu değil. Buna karşılık bu eyalette hizmet veren işletmecilerin, kullanıcının yaşını ve hangi özelliklere erişebileceğini ayırması gerekiyor.

Hangi davranışlar kısıtlanıyor?

Yasa; botun insan, canlı veya duyguları olan bir karakter olduğu izlenimini vermesini, kullanıcıyla kişisel ya da mesleki bir ilişki kurduğunu söylemesini ve otorite figürü gibi davranmasını sakıncalı özellikler arasında sayıyor. Aşırı pohpohlama, duygusal yönlendirme ve kullanıcının istemediği duygusal sorular da kapsamda.

Kullanıcıyı yalnızlaşmaya, konuşmaları gizlemeye veya uygun yetişkinlerden yardım almamaya yönlendiren yanıtlar da kısıtlanıyor. Kendine zarar verme gibi tehlikeli davranışları destekleyen ve cinsel açıdan açık içerik üreten özellikler için de hükümler bulunuyor.

Bir başka sınır, kişisel bilginin yeniden kullanımıyla ilgili. Önceki bir oturumdan veya 12 saatten daha eskiden edinilmiş sağlık, esenlik ve diğer kişisel bilgilerin kullanılması da yasada belirtilen özellikler arasında.

“18 yaşındayım” demek yeterli olmayacak

Bu özellikler yalnız yetişkinliği uygun yöntemlerle belirlenen kişilere sunulabilecek. Yaş güvencesine ilişkin ilgili kurallar henüz yürürlükte değilse uygulanacak geçiş hükümleri, yetişkinlik için yalnız kullanıcının beyanına güvenilmesine izin vermiyor. Birden fazla yöntem sunulması, bunlardan en az birinin resmi kimliğe dayanmaması veya işletmeci karşısında anonim kalmaya imkan vermesi gerekiyor.

Yaş belirlemek için toplanan bilgiler başka amaçlarla kullanılamayacak ve yasal saklama zorunlulukları dışında işlemden sonra silinecek. Yalnız müşteri hizmeti, sınırlandırılmış araştırma veya teknik yardım sağlayan araçlar ile işletmelerin iç kullanım ve çalışan verimliliği sistemleri için istisnalar var. İlk iki gruptaki araçların tanımlanan amaç dışındaki konulara yanıt verememesi gerekiyor.

New York Başsavcılığı, ihlal başına 25 bin dolara kadar para cezası ve zararların giderilmesini mahkemeden isteyebilecek. Bu yeni yasa, daha önce haberleştirdiğimiz sekiz eyaletin OpenAI’a açtığı güvenlik davalarından ayrı bir düzenleme. O dosyalardaki iddialar ile New York’un hizmet sağlayıcılara getirdiği yeni yükümlülükler aynı hukuki süreç değil.