Nvidia, yapay zekâ programlarını eğitebilen çipler için pazarı domine ediyor, ancak AMD şimdi yeni bir GPU ile pastadan pay almaya çalışıyor.
Şirket bugün, OpenAI’nin ChatGPT’si gibi programlara güç verebilecek büyük dil modellerini eğitmek için tasarlanmış bir “hızlandırıcı” çip olan AMD Instinct MI300X’i duyurdu.
Ürünün tanıtımı sırasında konuşan AMD CEO’su Lisa Su, “Yapay zekâ gerçekten de yeni nesil bilişimi şekillendiren belirleyici bir teknoloji olmakla birlikte, aynı zamanda AMD’nin en büyük ve stratejik uzun vadeli büyüme fırsatıdır.” dedi.
MI300X, AMD’nin veri merkezi odaklı CDNA 3 mimarisi üzerine inşa edilirken, yapay zekâ tabanlı iş yükleri için “sektör lideri” 192 GB‘a kadar HMB3 belleğe sahip olarak rekabeti yenmeye çalışıyor. Kullanıcılar 8 adet MI300X hızlandırıcıyı tek bir sistemde toplayabilecek. Böylece GPU’lar rakiplerine kıyasla daha büyük yapay zekâ modellerini eğitebilecek.
Su, “En büyük modeller için aslında ihtiyacınız olan GPU sayısını azaltıyor, özellikle çıkarım için performansı önemli ölçüde hızlandırıyor ve toplamda maliyetleri düşürüyor.” dedi.
MI300X aynı zamanda AMD’nin süper bilgisayarlarda kullanılması planlanan diğer yapay zekâ odaklı çipi MI300A’yı temel alıyor. Aradaki fark, şirketin MI300A’daki Zen 4 CPU çiplerini değiştirerek MI300X’i tamamen bir GPU işlemcisine dönüştürmesi.
Su, “MI300A’ya çok ama çok benzediğini görebilirsiniz, çünkü temelde üç yongayı çıkarıp iki (GPU) yonga koyduk ve daha fazla HBM3 bellek yığdık. Bu ürünü gerçekten üretken yapay zekâ için tasarladık.” diye ekledi.
Su ayrıca bir demoda 192 GB bellekle donatılmış tek bir MI300X’in açık kaynaklı büyük dil modeli Falcon-40B’yi çalıştırdığını gösterdi. Programdan San Francisco hakkında bir şiir yazması istendi ve program metni birkaç saniye içinde oluşturdu.
“Bu demonun en önemli özelliği, bu büyüklükte bir dil modelinin ilk kez tek bir GPU üzerinde tamamen bellekte çalıştırılabiliyor olması.” diye ekledi.
Yeni donanım, Nvidia’nın üretken yapay zekâ sohbet robotlarına yönelik talep sayesinde satışlarının önümüzdeki dönemlerde hızla artmasını beklediği bir ortamda piyasaya sürülecek. Bu teknolojiyi geliştirmek için sektördeki şirketler Nvidia’nın yaklaşık 10.000 dolara mal olabilen A100 GPU’sunu satın alıyor. Buna ek olarak Nvidia, artık 188 GB’a kadar HMB3 bellekle yapılandırılabilen H100 GPU’yu da satıyor.
AMD, kendi rakip ürünü olan MI300X’i 3. çeyrekten itibaren önemli müşterilere sunmaya başlayacağını söylüyor. Şirket, üretken yapay zekâ için tasarlanmış veri merkezi çipleri pazarının bu yıl sadece 30 milyar dolar iken 2027’de 150 milyar dolara ulaşacağını öngördüğünü de ekliyor.
