Nvidia GB200 NVL2: Büyük yapay zeka modelleri için raf tipi sunucu

celeron

Global Mod
Global Mod
Nvidia CEO'su Jensen Huang, Computex öncesinde yaptığı açılış konuşmasında Blackwell bilgi işlem hızlandırıcı ailesinin bir başka bileşenini tanıttı. Nvidia, Mart 2024'te tanıtılan GB200 NVL72 sunucu rafının altında, yapay zeka modeli eğitimi için iki GB200 işlemcili GB200 NVL2 raf eklentisini sunuyor. Ek parça MGX formatında üretilmiştir ve bu nedenle mevcut veri merkezlerine uyar.


Reklamcılık



Her birinin içine lehimlenen iki GB200, bir Blackwell çift çipinden ve 72 ARM çekirdekli bir Grace CPU'dan oluşuyor. Nvidia'ya göre tüm sistemin 40 petaflops'luk bir hesaplama gücüne ulaşması gerekiyor, ancak bu rakam yalnızca 4 bit hassasiyetle yapay zeka uygulamalarında kullanılan FP4 veri türü için geçerli.

Raf sunucusu toplam 1,3 TB RAM sunuyor ve bunun 384 GB'ı hızlı HMB3e RAM olarak Blackwell yongalarına bağlı. HBM3e belleğin verimi her biri 8 TB/s'dir. GB200'ler birbirleriyle NVLink aracılığıyla 2 x 900 GB/s hızında iletişim kurar. Bu, GB200 NVL2'yi üretken yapay zeka uygulamalarına yönelik büyük modellerin eğitimi için uygun hale getirir.

Blackwell Ultra ve Rubin, Blackwell'i takip ediyor


Son olarak Jensen Huang, gelecek nesil yapay zeka hızlandırıcılara ilişkin bir bakış açısı sundu. HBM4 belleğe sahip Rubin platformu 2026'da piyasaya sürülmeden önce, 12 HBM3e yığınına sahip geliştirilmiş Blackwell Ultra sürümü 2025'te piyasaya sürülecek. Bu aynı zamanda ARM CPU Vera'yı ve hızlandırıcıları yüksek bant genişliğine bağlamak için yeni ağ yongalarını da içeriyor.







Kısa bir yol haritasında Jensen Huang, Rubin Ultra'nın 2027 yılına kadar olan görünümünü verdi.





(chh)



Haberin Sonu