Microsoft'tan yerel MAI-Code ve Copilot'a erişim sınırları

Microsoft, MAI-Code-1.1-Flash kodlama modelinin bilgisayarda çalışabilen sürümünü 7 Ekim'de duyurdu. Aynı gün, yapay zeka ajanlarının dosya ve ağ erişimini sınırlamaya yarayan Microsoft Execution Containers (MXC) ile GitHub Copilot'un yerel sandbox özelliği de genel kullanıma açıldı.

Geliştiriciler böylece bazı model çağrılarını kendi donanımlarında çalıştırabilecek ve ajanın bilgisayarda hangi kaynaklara erişeceğini belirleyebilecek. Yerel MAI sürümünün donanım beklentileri ve Copilot'a geliş takvimi ise kullanım kararında önemli.

Yerel MAI-Code için 120 GB üzeri RAM öneriliyor

MAI-Code-1.1-Flash, GitHub Copilot'a ilk olarak 11 Ağustos'ta gelmişti. Ekim güncellemesi, bu modelin bellek ihtiyacını azaltmak için 3-bit nicemleme kullanılan yerel sürümünü getiriyor. Model 256 bin tokenlık bağlam penceresini koruyor ve indirilip bilgisayarda çalıştırılabiliyor.

Microsoft, iyi performans için 120 GB'dan fazla RAM öneriyor. Duyuruda bu miktar asgari sistem gereksinimi olarak tanımlanmıyor. Teknik testte model dosyalarının boyutu 53 GB, 256 bin tokenlık bağlamda ölçülen tepe bellek kullanımı ise 75,5 GB olarak veriliyor. Bu ölçümler belirli donanım ve çalışma ayarlarına ait.

Yerelde yapılan model çağrıları için çıkarım ücreti alınmıyor. Copilot uygulaması, Copilot CLI ve Visual Studio Code içindeki deneysel erişimin ekim sonuna kadar gelmesi planlanıyor. Yerel ve bulut modelleri arasında otomatik yönlendirme de aynı takvimin parçası.

Şirket, kısa süre önce MAI ailesinin ses ve canlı konuşma modellerini de yenilemişti. Bu kez duyurunun odağında kodlama ve modelin kullanıcının cihazında çalışması var.

MXC, ajanın erişebildiği kaynakları sınırlıyor

MXC'de geliştirici veya kurum; ajanın hangi dosyaları okuyabileceğini, nerelere yazabileceğini ve hangi ağ adreslerine bağlanabileceğini belirliyor. Kurallar ajanın dışında tutulduğu için, model ya da ürettiği kod kendisine ek yetki veremiyor.

Kullanılan izolasyon seçeneğine göre masaüstü ve kullanıcı arayüzü erişimi de sınırlandırılabiliyor. Süreç tabanlı seçenek Windows 11, macOS ve Linux'ta bulunuyor. Ayrı oturum ve WSL seçenekleri Windows'a özgü; MicroVM deneysel aşamada. Entra ve Agent 365 üzerinden ajan kimliğini ayırma ile bazı Intune yönetim özellikleri ise daha sonra gelecek.

Windows'taki çalışma modları arasında da fark var. Learning modunda izin verilmemiş erişim engellenip kaydediliyor. Permissive modunda aynı erişim rapora giriyor, ancak işlemin devam etmesine izin veriliyor. Bu yüzden politika hazırlarken kullanılan mod, sağlanan korumayı değiştiriyor.

Copilot'ta yerel sandbox varsayılan olarak kapalı

MXC tabanlı yerel sandbox; Copilot CLI, Copilot uygulaması ve Agent Host kullanan VS Code oturumlarında genel kullanıma açıldı. Özellik için ek ücret alınmıyor. Sandbox kuralları, Copilot'un hangi modeli seçtiğinden bağımsız olarak araçların ve komutların erişimini düzenliyor.

GitHub belgelerine göre yerel sandbox varsayılan olarak kapalı. Etkinleştirilene kadar Copilot'un çalıştırdığı kabuk komutları, kullanıcının hesabıyla aynı erişim yetkilerine sahip. CLI ve Copilot uygulamasının sandbox ayarları da ayrı yönetiliyor.

Mevcut yerel koruma süreç, dosya ve ağ erişimini sınırlandırıyor; komutları ayrı bir sanal makinede çalıştırmıyor. CLI'ın kendi içindeki dosya araçları işletim sistemi sandbox'ının dışında kalıyor ve politikayı uygulama içi kontrollerle gözetiyor. Uzak MCP sunucuları da yerel sandbox kapsamında bulunmuyor.

Yerel model seçmek, oturumu otomatik olarak çevrimdışı yapmıyor veya telemetriyi kapatmıyor. Copilot'un yeni model keşif özelliği de Ollama'da zaten kurulu ve çalışan modelleri listeliyor; model dosyalarını indirmiyor. Tamamen yerel bir çalışma düzeni isteyenlerin model bağlantısını, ağ izinlerini ve kullandıkları araçları birlikte kontrol etmesi gerekiyor.