OpenAI’dan açıkları bulup yama hazırlayan iki güvenlik aracı

OpenAI, yazılım ekiplerinin güvenlik açığını bulduktan sonra düzeltme hazırlamak için yaptığı işi de yapay zeka ajanlarına taşıyor. Daybreak Red Team, web uygulamalarında açık arayıp bunların gerçekten kullanılabildiğini sınarken Daybreak Defense Factory, bulguları inceleyerek mühendislerin değerlendireceği yamalar hazırlıyor.

İki aracın birlikte ele aldığı sorun, bir güvenlik uyarısının tek başına çözüm olmaması. Ekibin önce uyarının gerçek bir açığa işaret edip etmediğini anlaması, ardından kodu düzeltip aynı saldırının hâlâ çalışıp çalışmadığını kontrol etmesi gerekiyor. OpenAI, bu aşamaları birbirine bağlayan bir çalışma düzeni sunuyor.

Red Team açığı ve düzeltmeyi sınayacak

Red Team’de birlikte çalışan ajanlar, kaynak kodunu ve uygulama hakkındaki bilgileri kullanarak saldırı yollarını araştırıyor. Yalnızca kendi buldukları sorunlarla sınırlı değiller: Kod tarayıcılarından, hata ödülü programlarından ve dışarıdan gelen güvenlik bildirimlerinden elde edilen bulguları da test edebiliyorlar.

Bu testlerin amacı, hangi bulgunun önce giderilmesi gerektiğine karar verebilmek için kanıt sağlamak. Bir yama hazırlandığında da aynı açık yeniden denenerek düzeltmenin saldırıyı durdurup durdurmadığı kontrol ediliyor. Ajanların erişebileceği uygulamalar ve bağlantı noktaları sınırlandırılıyor; test kapsamı izole ortamlar ve Guardian denetimiyle korunuyor.

Yama hazırlamak, otomatik olarak uygulamak demek değil

Defense Factory ise Red Team’den veya ekibin mevcut güvenlik araçlarından gelen bulguların kod içindeki nedenini araştırıyor ve düzeltme geliştiriyor. Geliştiriciler Codex üzerinden ek bilgi verebiliyor, bulguların dayanaklarını inceleyebiliyor ve önerilen yama üzerinde çalışabiliyor.

Hazırlanan değişiklikler doğrudan projeye alınmıyor. OpenAI’nin tarif ettiği süreçte mühendisler yamayı inceleyip test ettikten sonra birleştiriyor. Dolayısıyla araçların sunduğu şey, güvenlik ekibinin yerini alan kusursuz bir otomatik tamir sistemi değil; incelemeye hazır bir düzeltme ve bunu değerlendirecek kanıtlar.

Kontrol tek seferlik taramayla da sınırlı değil. Defense Factory, kod deposuna eklenen yeni değişiklikleri izleyebiliyor veya belirlenen aralıklarla yeniden tarama yapabiliyor. Kurulum belgelerinde GitHub deposunun tamamını ya da belirli klasör ve dosyaları seçme seçenekleri bulunuyor.

Red Team için şu anda erken erişim başvurusu alınıyor. Defense Factory’nin kurulumunda ise Daybreak erişimi bulunan bir ChatGPT çalışma alanı gerekiyor. Bu nedenle duyuru, araçların bütün ChatGPT kullanıcılarına açıldığı anlamına gelmiyor.

OpenAI daha önce Linux çekirdeğindeki güvenlik açıklarını yapay zekayla araştırmıştı. Buradaki odak, tek bir araştırmanın sonuçlarından farklı olarak, yazılım ekiplerinin kendi uygulamalarında sürdürebileceği test ve düzeltme süreci.