Google, yapay zeka modellerini eğitmek ve sunmak için tasarlanmış NVIDIA H100 GPU’larla desteklenen yeni nesil A3 süper bilgisayarlarını piyasaya sürdü. Bu cihazlar, “günümüzün üretken yapay zeka ve büyük dil modeli inovasyonuna güç vermek amacıyla özel olarak üretildi” ve zorlu yapay zeka modellerini eğitmek ve sunmak için ideal bilgisayarlar.
A3 makineleri, özel tasarım 200 Gbps IPU’lar kullanmakta olup, A2 VM’lerine kıyasla 10 kat daha fazla ağ bant genişliği sunmaktadır. Bu makineler, 26 exaFlops’a kadar yapay zeka performansı sağlayarak “büyük makine öğrenimi modellerinin eğitim süresini ve maliyetlerini önemli ölçüde iyileştirmektedir.”
A3 Süper Bilgisayar Temel Özellikleri
- NVIDIA’nın Hopper mimarisini kullanan 8 adet H100 GPU, 3 kat daha fazla işlem hacmi sunuyor.
- NVIDIA NVSwitch ve NVLink 4.0 aracılığıyla A3’ün 8 GPU’su arasında 3,6 TB/sn kesitsel bant genişliği sağlıyor.
- Yeni nesil 4. Nesil Intel Xeon Ölçeklenebilir işlemciler kullanılmaktadır.
- 4800 MHz DDR5 DIMM’ler aracılığıyla 2 TB ana bellek sağlıyor.
- Donanım destekli IPU’lar, özel sunucular arası GPU iletişim yığını ve NCCL optimizasyonları sayesinde 10 kat daha fazla ağ bant genişliği sunuyor.