Yayınlanma: 3 Ekim 2022 16:17
Güncellenme: 22 Kasım 2024 10:12
120 GB'lık NVIDIA Canavarı! NVIDIA, Hopper teknolojisini veri merkezi araçları için üretti. Şirket, yüksek performanslı bilgi işlem sistemlerini birinci sınıf Hopper H100 ekran kartı ile donatıyor. Hatta NVIDIA CEO’su tanıtım sırasında yalnızca 20 adet H100 GPU ile tüm dünyanın internet trafiğinin kontrol edebileceğini iddia etmişti. Bu gerçekten çarpıcı bir iddia!
16 bin 896 veya 14 bin 592 CUDA çekirdeğine sahip olan bu mimari yüksek performanslı bilgi işlem sistemleri için tasarlanmış durumda. Her iki verisyon da 5120 bit arabirimle gelirken, HBM3 belleği kullanan SXM5 sürümü 3.0 Gbps ve PCIe sürümü ise HBM2E belleği ile 2.0 Gbps hız sunmakta!
Her iki sürüm de şimdiye kadar 80 GB’lık kapasite ile sunuluyordu. Ancak yakın zamanda bu durum değişebilir. Gelen bilgilere göre NVIDIA, 120 GB’lık yeni bir Hopper H100 ekran kartı ve PCIe sürümü üzerinde çalışılmakta. Çinli “s-ss.cc” isimli internet sitesinden paylaşılan görsele göre, H100 PCIe kartının 120 GB’lık versiyonu hakkında, yakında piyasa sürülebileceği hakkında iddia öne sürülmüştü.
Bilgisayar Dil Modellerindeki (LLM’ler) son gelişmelerle birlikte, yapay zeka iş yükleri eğitim, için çoğu NVIDIA H100 gibi GPU’larda trilyonlarca parametre kullanılıyor. Bu tür durumlarda yüksek bellek oldukça fazla önem arz etmektedir!
https://twitter.com/NVIDIAGeForce/status/1573050103396540416?s=20&t=PS6wBoJs1_FdksKkRjcf2Q Bunlara da göz atmak isteyebilirsiniz: