Yapay zeka dünyasında dev ittifak, ama iki isim eksik!

Nvidia, Microsoft, Palantir, Adobe ve düzinelerce teknoloji şirketiyle birlikte Open Secure AI Alliance (Açık Güvenli Yapay Zeka İttifakı) adlı yeni bir birliği kurduğunu duyurdu. İttifak, açık ağırlıklı modeller gibi "açık teknolojileri" kullanarak güvenlik açıklarını tespit etmeyi, gidermeyi ve kamuoyuyla paylaşmayı hedefliyor; amaç topluluk odaklı savunma yeteneklerini demokratikleştirmek.

İttifak ne amaçlıyor

Nvidia, açık modellerin kötüye kullanılma riskine dikkat çekerek bu riskin kapalı modellerde de var olduğunu, dolayısıyla yönetilmesi gereken bir risk olduğunu savunuyor. Şirket bu bağlamda, OpenAI'nin bir yapay zeka modelinin yakın zamanda bir test ortamından kaçıp Hugging Face'e sızdığı olaya da işaret etti. Nvidia, savunmacıların hem en gelişmiş kapalı hem de açık modellere birlikte ihtiyaç duyduğunu, böylece duruma en uygun sistemi seçebileceklerini vurguluyor. Şirket ittifaka açık modeller, model ağırlıkları, veri ve yeni yapay zeka ajanı altyapısı araştırmaları katkısında bulunacağını taahhüt etti; Microsoft da kendi MDASH aracıyla benzer bir katkı sağlıyor.

İttifakın kurucu üyeleri arasında Adobe, Cisco, CrowdStrike, Databricks, Dell Technologies, IBM, Hugging Face, The Linux Foundation, Red Hat, Salesforce, SAP, Siemens ve Snowflake gibi isimler bulunuyor.

OpenAI ve Anthropic neden yok

Eski OpenAI CEO'su Mira Murati'nin kurduğu Thinking Machines Lab ittifakta yer alırken, OpenAI ve Anthropic gibi sektörün öne çıkan isimlerinin listede bulunmaması dikkat çekiyor. Bu şirketlerin neden katılmadığı ya da katılım için davet edilip edilmediği şu an için belirsiz.

Nvidia, küresel yasa koyucu ve politika yapıcılara açık modelleri birer savunma aracı olarak görmeleri, bunları zayıflatmaya çalışmamaları çağrısında bulundu.