AMD, Helios veri merkezi sistemleri için 288 GB HBM4 bellekli Instinct MI450X’i tanıttı. 12 Kasım’da duyurulan hızlandırıcı, yapay zeka modellerinin eğitilmesi, belirli işlere uyarlanması ve kullanıcılardan gelen istekleri işlemesi için geliştirildi. Oyun bilgisayarlarına yönelik Radeon ailesinden farklı olarak sunucu raflarında çalışıyor.
MI450X ile MI455X arasındaki tercih, ihtiyaç duyulan bellek kapasitesine dayanıyor. AMD, iki ürünün temel hesaplama gücünü, bellek bant genişliğini ve bağlantı yeteneklerini aynı tutuyor. MI450X, iş yükü 288 GB belleğe sığan müşterilere hitap ederken MI455X daha büyük modeller, daha uzun bağlamlar ve eşzamanlı daha fazla istek için ek alan sağlıyor. İkisi de Helios altyapısını ve ROCm yazılım ortamını kullandığından bu seçim ayrı bir yazılım platformuna geçmeyi gerektirmiyor.
Şirket, uygun iş yüklerinde MI450X ile işlem hacmi ve yanıt süresi hedeflerini koruyarak işletme giderlerini azaltmayı amaçlıyor. Ancak duyuruda ürünün fiyatı veya tasarruf oranı açıklanmadı.
288 GB HBM4 belleğin yanında ne sunuyor?
Beşinci nesil CDNA mimarisini kullanan MI450X’in bellek bant genişliği 23,3 TB/s’ye ulaşıyor. Bellekte hata düzeltme desteği var; modül doğrudan sıvı soğutmayla çalışacak şekilde tasarlanmış. Bu özellikler, büyük miktarda veriyi işleyen ve uzun süre yük altında çalışan yapay zeka sunucularına yönelik.
AMD aynı açıklamada diğer model MI455X’in DeepSeek-R1 testini de paylaştı. Şirketin Ekim ayında kendi laboratuvarlarında ölçtüğü GPU başına saniyede 21.333 token, yayımlanmış Nvidia Vera Rubin sonucunun yüzde 30’a kadar üzerinde. Bu, MI450X için verilmiş bir sonuç değil: karşılaştırma MI455X’in toplu işlem kapasitesini ölçen MLPerf Inference Offline senaryosuna ait, tek bir sohbet isteğinin yanıt hızını göstermiyor.
Instinct ailesi, AMD’nin büyümesinde önemli yer tutan veri merkezi bölümünde bulunuyor. Şirketin son çeyrek sonuçlarında rekor geliri taşıyan bölüm de veri merkezleri olmuştu.
Yorumlar
İlk yorumu siz yazın!
Yanıt: —