daha geç gerçekleşirse şaşırırım,
bu ana daha erken tanık olursak hayret ederim.
nvidia 2023 çıkışlı süper bilgisayarıyla bu beklentinin gerçekliğini doğrulamıştı: https://developer.nvidia....rabyte-gpu-memory-system/
NVIDIA, COMPUTEX 2023'te, en zorlu dev yapay zeka iş yüklerini desteklemek için GPU hızlandırmalı hesaplamada bir başka çığır açan NVIDIA DGX GH200'ü duyurdu. Bu gönderi, NVIDIA DGX GH200 mimarisinin kritik yönlerini açıklamanın yanı sıra, NVIDIA Base Command'ın hızlı dağıtımı nasıl sağladığını, kullanıcıların sisteme katılımını nasıl hızlandırdığını ve sistem yönetimini nasıl basitleştirdiğini ele alıyor.
GPU'ların birleşik bellek programlama modeli, son 7 yıldır karmaşık hızlandırılmış bilgi işlem uygulamalarındaki çeşitli atılımların temel taşı olmuştur. NVIDIA, 2016 yılında GPU hızlandırmalı iş yükleri için kullanılabilir belleği artırmak üzere tasarlanan NVLink teknolojisini ve CUDA-6 ile Birleşik Bellek Programlama modelini tanıttı.
O zamandan beri, her DGX sisteminin çekirdeği, her GPU'nun diğerinin belleğine NVLink hızında erişebildiği, NVLink ile birbirine bağlı bir anakart üzerinde bulunan bir GPU kompleksi olmuştur. GPU komplekslerine sahip bu tür birçok DGX, NVIDIA Selene süper bilgisayarı gibi daha büyük süper bilgisayarlar oluşturmak için yüksek hızlı ağlarla birbirine bağlanmıştır . Ancak, trilyonlarca parametreli devasa yapay zeka modellerinden oluşan yeni bir sınıfın eğitilmesi ya birkaç ay sürecek ya da günümüzün en iyi süper bilgisayarlarında bile çözülemeyecektir.
Bu zorlukların üstesinden gelmek için gelişmiş bir platforma ihtiyaç duyan bilim insanlarına güç vermek amacıyla NVIDIA, NVIDIA Grace Hopper Superchip'i NVLink Switch Sistemi ile bir araya getirerek NVIDIA DGX GH200 sisteminde 256'ya kadar GPU'yu bir araya getirdi. DGX GH200 sisteminde, GPU paylaşımlı bellek programlama modeliyle NVLink üzerinden yüksek hızda 144 terabayt belleğe erişilebiliyor.
NVIDIA DGX GH200, tek bir NVIDIA DGX A100 320 GB sistemiyle karşılaştırıldığında , NVLink üzerinden GPU paylaşımlı bellek programlama modeline yaklaşık 500 kat daha fazla bellek sağlayarak devasa bir veri merkezi boyutunda GPU oluşturur. NVIDIA DGX GH200, NVLink üzerinden GPU'ların erişebildiği bellek için 100 terabayt sınırını aşan ilk süper bilgisayardır.