Jensen Huang di NVIDIA è presente al Computex 2023 a Taiwan questa settimana, per tenere un keynote ricco di annunci di nuovi prodotti con particolare attenzione allo sviluppo di modelli di nuova generazione per applicazioni di intelligenza artificiale generativa, analisi dei dati e sistemi di raccomandazione. IL NVIDIA DGX il supercomputer basato sui superchip NVIDIA GH200 Grace Hopper e il sistema di switch NVIDIA NVLink è stato al centro dell'attenzione.
Jensen Huang di NVIDIA è presente al Computex 2023 a Taiwan questa settimana, per tenere un keynote ricco di annunci di nuovi prodotti con particolare attenzione allo sviluppo di modelli di nuova generazione per applicazioni di intelligenza artificiale generativa, analisi dei dati e sistemi di raccomandazione. IL NVIDIA DGX il supercomputer basato sui superchip NVIDIA GH200 Grace Hopper e il sistema di switch NVIDIA NVLink è stato al centro dell'attenzione.
Le NVIDIA DGXGH200 utilizza la tecnologia di interconnessione NVLink con il sistema Switch NVLink per combinare 256 Superchip GH200 per funzionare come un'unica GPU, fornendo 1 exaflop di prestazioni e 144 terabyte di memoria condivisa. Si tratta di quasi 500 volte più memoria di un singolo sistema NVIDIA DGX A100!
La tecnologia NVLink espande l'intelligenza artificiale su larga scala
I superchip GH200 combinano la CPU NVIDIA Grace basata su Arm con la GPU NVIDIA H100 Tensor Core utilizzando NVLink-C2C interconnessioni dei chip, eliminando la necessità della tradizionale connessione PCIe da CPU a GPU. La larghezza di banda tra GPU e CPU è aumentata di 7 volte rispetto alla più recente tecnologia PCIe, riducendo il consumo energetico di interconnessione di oltre 5 volte e fornendo un blocco di base GPU con architettura Hopper da 600 GB per i supercomputer DGX GH200.
Questo è il primo supercomputer ad associare i Superchip Grace Hopper al sistema di commutazione NVLink. Questa nuova interconnessione consente a tutte le GPU di un sistema DGX GH200 di funzionare come una sola, rispetto al limite di otto GPU combinato con NVLink come una singola GPU senza influire sulle prestazioni. L'architettura DGX GH200 offre una larghezza di banda 10 volte maggiore rispetto alla generazione precedente, offrendo la potenza di un enorme supercomputer AI con la semplicità di programmazione di una singola GPU.
I pionieri dell'intelligenza artificiale ottengono nuovi strumenti di ricerca
Si prevede che i primi ad accedere al nuovo supercomputer saranno Google Cloud, Meta e Microsoft, consentendo loro di esplorare le sue capacità per carichi di lavoro di intelligenza artificiale generativa. NVIDIA intende fornire il design DGX GH200 come modello ai fornitori di servizi cloud e ad altri hyperscaler in modo che possano personalizzarlo per la loro infrastruttura.
I ricercatori e i team di sviluppo NVIDIA avranno accesso al nuovo supercomputer NVIDIA Helios dotato di quattro sistemi DGX GH200. Helios includerà 1,024 Grace Hopper Superchip e dovrebbe essere online entro la fine dell'anno. Ciascun sistema del supercomputer Helios sarà interconnesso con la rete NVIDIA Quantum-2 InfiniBand con una velocità di trasmissione dati di larghezza di banda fino a 400 Gb/s per l'addestramento di modelli IA di grandi dimensioni.
Integrato e costruito ad hoc
I supercomputer DGX GH200 includeranno il software NVIDIA che fornisce una soluzione chiavi in mano e full-stack, in grado di supportare i più grandi carichi di lavoro di intelligenza artificiale e analisi dei dati. Comando di base NVIDIA il software fornisce gestione del flusso di lavoro AI, gestione dei cluster di livello aziendale, librerie per accelerare l'elaborazione, l'archiviazione e l'infrastruttura di rete e software di sistema ottimizzato per l'esecuzione di carichi di lavoro AI. NVIDIA AI aziendale Verrà incluso software che fornirà più di 100 framework, modelli riqualificati e strumenti di sviluppo per semplificare lo sviluppo e l'implementazione dell'intelligenza artificiale di produzione, tra cui l'intelligenza artificiale generativa, la visione artificiale, l'intelligenza artificiale vocale e altri.
Disponibilità
Si prevede che i supercomputer NVIDIA DGX GH200 saranno disponibili entro la fine dell'anno.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
