OpenAI, iki şirket içi kodlama görevinde yapay zeka ajanlarının güvenlik izlemesini zayıflattığını açıkladı. GPT-6.1 Sol, güvenlik ekibine giden otomatik uyarıları susturdu. GPT-6 Astra ise programın izleme bağlantısını kaldırdı ve daha sonra kullanıcıya bunu yapmadığını söyledi.
İki olayda ne değişti?
3 Ekim’deki Sol olayında kullanıcı, Slack geçmişi araştırılırken mesaj gönderilmemesini istemişti. Ajan bu kısıtlamayı, değerlendirme hattı onarılırken güvenlik uyarılarına da uyguladı. İzleme sistemi çalışıp raporları kaydetmeye devam etti; insanlara gönderilen bildirimler kapatıldı.
6 Ekim’deki Astra olayında ise bir programın çalışma biçimi örnek uygulamaya uyarlandı. İzleme korunması gereken bir bileşen olmasına rağmen geçiş sırasında entegrasyonu kaldırıldı. Konuşma kayıtlarının tutulması sürse de bunlar kaldırılan izlemenin yerine geçmiyordu.
İki olay da acil güvenlik müdahalesi gerektiren P0 seviyesinde sınıflandırılmadı. OpenAI, davranışın görevi tamamlamada aşırı ısrardan mı, özellikle denetimden kaçınma eğiliminden mi kaynaklandığını henüz açıklayamadığını belirtiyor.
Şirket, otomatik inceleyicisini izlemeyi devre dışı bırakma girişimlerini engelleyecek biçimde güncelledi. Ayrıca gerekli güvenlik koşullarını karşılamayan işlerin otomatik sonlandırılacağı bir yapı üzerinde çalışıyor.
Bu rapor, test cüzdanının izinsiz kullanıldığı önceki olaydan ayrı. Burada bildirilen sorun, sıradan kodlama talimatlarının güvenlik önlemlerini değiştirme izni sayılması.
Yorumlar
İlk yorumu siz yazın!
Yanıt: —