Microsoft, Maia 300 yapay zeka hızlandırıcısını 2027’de üretim ortamlarına dağıtmaya başlayacak. Şirket, aynı yıldan itibaren Maia ailesini çok gigawatt ölçeğine taşımayı ve kendi ürünlerinin yapay zeka çıkarımında ana sistem haline getirmeyi planlıyor.
Yeni mimari; uzun bağlamlı akıl yürütme, hızlı yanıt gerektiren konuşmalar ve çok adımlı ajan görevleri için tasarlandı. Microsoft, önde gelen GPU tabanlı sistemlere kıyasla megawatt başına yüzde 40 daha fazla token üretmeyi bekliyor. Karşılaştırılan GPU modeli açıklanmıyor. Bu oran, bağımsız bir test sonucu değil, şirketin beklentisi.
96 hızlandırıcı aynı sistemde
Microsoft’un verdiği özelliklere göre tam raf yapılandırması 96 hızlandırıcı, 27,6 TB HBM bellek ve 167 kilovatlık güç bütçesine sahip. Bu yapılandırmanın Maia 200’e göre raf ölçeğinde yedi kata kadar token işleme kapasitesi sunduğu belirtiliyor.
TSMC N2P üretim sürecini kullanan işlem birimleri, bellek denetleyicisi ve giriş-çıkış bileşenlerinden ayrılıyor. Sekiz HBM4 bellek yığını, hızlandırıcı başına 950 watt TDP içinde 18 TB/s tepe bant genişliği sağlıyor. Tasarım, hesaplama sırasında verinin taşınmasını azaltmaya odaklanıyor.
Maia 200 ise Copilot dahil mevcut Microsoft iş yüklerinde çalışmaya başladı. GitHub Copilot ve Microsoft Foundry desteğinin yıl sonuna kadar eklenmesi planlanıyor.
Maia 300, Microsoft’un Maia 100 ile başlayan özel hızlandırıcı serisinin üçüncü nesli. Yeni hedef, donanım kapasitesini artırırken enerji başına üretilen yanıt miktarını da yükseltmek.
Yorumlar
İlk yorumu siz yazın!
Yanıt: —