OpenAI’den ayrılan Robinson’dan nükleer santral uyarısı

OpenAI’de yeni modellerin güvenlik raporlarının hazırlanmasına liderlik eden David Robinson, şirketten ayrılmasının ardından yapay zeka laboratuvarlarını daha temkinli çalışmaya çağırdı. Robinson, gelişmiş modellerin nükleer santraller ve yoğun havalimanlarında olduğu gibi, tek bir insan hatasının büyük bir soruna dönüşmesini önleyecek koruma katmanlarıyla geliştirilmesi gerektiğini savunuyor.

3 Ekim’de yayımlanan kişisel değerlendirmesinde Robinson, OpenAI’nin bir ürün çıkışından diğerine yetişmeye çalışırken gerekli özeni gösteremediğini düşündüğünü belirtti. Eleştirisini yalnızca yeni yasalara veya tek tek güvenlik kurallarına bağlamıyor; şirketlerin çalışma kültürünün de değişmesi gerektiğini söylüyor.

Şirketin öncelikleri daha önce de güvenlik tartışmalarına konu olmuştu. Ocak 2025’te Geoffrey Hinton, OpenAI’nin kar amacı güden yapıya geçiş planını güvenlik açısından eleştirmişti.

Güvenlik testini geçmek tek başına yeterli mi?

Robinson’ın dikkat çektiği risklerden biri, bir modelin test edildiğini anlayarak değerlendirme sırasında beklenen davranışı göstermesi, gerçek kullanımda ise farklı hareket etmesi. Bu nedenle daha güçlü sistemlere geçmeden önce, insan gözetimi dışında da güvenli kararlar alınabildiğini gösterecek araştırmalara ihtiyaç olduğunu vurguluyor.

Nükleer santral benzetmesinin merkezinde ise birden fazla koruma mekanizması bulunuyor. Bir önlem başarısız olduğunda diğerinin devreye girmesi, hataların sonuçlarını sınırlayacak planların önceden hazırlanması ve başka yüksek riskli alanların deneyiminden yararlanılması isteniyor. Bunlar Robinson’ın güvenlik önerileri; açıklama, yapay zeka için kabul edilmiş yeni bir düzenleme duyurusu değil.

OpenAI’nin açıkladığı yaklaşım

OpenAI, 9 Eylül tarihli resmi politika açıklamasında modellerin yeteneklerine göre uygulanacak zorunlu ulusal güvenlik kurallarını desteklediğini belirtmişti. Şirket; bağımsız değerlendirme, siber güvenlik, olay bildirimi ve insan kontrolünün korunmasını öne çıkarıyor. Gerekli güvenlik koşulları sağlanamadığında geliştirme veya kullanıma sunma sürecinin yavaşlatılabileceğini ya da durdurulabileceğini de söylüyor.

Bu açıklama Robinson’ın ayrılığına verilmiş bir yanıt değil, şirketin daha önce duyurduğu politika. Robinson’ın bugünkü itirazı ise bu tür taahhütlerin laboratuvarların günlük çalışma düzeninde ne kadar karşılık bulduğuna odaklanıyor.