NVIDIA ha annunciato una nuova classe di supercomputer con una grande quantità di memoria: i supercomputer NVIDIA DGX basato su superchip NVIDIA GH200 Grace Tramoggia e sistemi di commutazione NVIDIA NVLink. È progettato per sviluppare modelli di prossima generazione per applicazioni generative AI, sistemi di raccomandazione e carichi di lavoro di analisi dei dati.
Spazio di memoria enorme NVIDIA Il DGX GH200 utilizza la tecnologia di connettività NVLink con il sistema di switch NVLink per combinare 256 superchip GH200, risultando in un'unica GPU. Ciò fornisce 1 exaflop di prestazioni e 144 TB di memoria condivisa, quasi 500 volte in più rispetto alla generazione precedente NVIDIA DGX A100, introdotto nel 2020.
"Generativo AI, grandi modelli linguistici e sistemi di raccomandazione sono i motori digitali dell'economia moderna, ha affermato il fondatore e CEO NVIDIA Jensen Huang. – I supercomputer AI DGX GH200 integrano tecnologie di calcolo e di rete accelerate all’avanguardia NVIDIAespandere i confini dell’intelligenza artificiale”.
Come riportato in un comunicato stampa sul sito dell'azienda, i superchip GH200 eliminano la necessità di una tradizionale connessione CPU-GPU PCIe. Combinano il processore NVIDIA Grace e GPU basati su Arm NVIDIA Nucleo tensore H100 in una custodia. Ciò aumenta la larghezza di banda tra GPU e CPU di 7 volte, riduce significativamente il consumo energetico e fornisce 600 GB di architettura GPU Hopper per i nuovi supercomputer. L'architettura DGX GH200 fornisce una larghezza di banda NVLink 48 volte maggiore rispetto alla generazione precedente.
Google Cloud dovrebbe farlo Meta che Microsoft sarà tra i primi ad avere accesso al DGX GH200 ed esplorare le sue capacità nella generazione di carichi di lavoro AI. Il produttore intende inoltre fornire il design DGX GH200 come campione ai fornitori di servizi cloud in modo che possano adattarlo alla loro infrastruttura.
"La creazione di modelli generativi avanzati richiede approcci innovativi all'infrastruttura di intelligenza artificiale", ha affermato il vicepresidente dell'informatica presso Google cloud Mark Lohmyer. "La nuova scala di NVLink e la memoria del superchip Grace Hopper risolvono i principali colli di bottiglia nell'IA su larga scala e non vediamo l'ora di esplorare il suo potenziale per Google Cloud e le nostre iniziative di intelligenza artificiale generativa".
Vicepresidente aziendale per l'infrastruttura di Azure in Microsoft Girish Bablani ha notato il potenziale del DGX GH200 per lavorare con set di dati di terabyte, che consentirà agli sviluppatori di condurre ricerche su scale più ampie ea velocità accelerata.
L'azienda crea anche un supercomputer NVIDIA Helios basato su DGX GH200 per i suoi ricercatori e team di sviluppo. Sarà dotato di quattro sistemi DGX GH200 e ciascuno sarà interconnesso da una rete Quantum-2 InfiniBand per aumentare la velocità di trasmissione dei dati per l’addestramento di grandi modelli di intelligenza artificiale. Helios includerà 1024 superchip Grace Hopper e dovrebbe essere operativo entro la fine dell'anno.
Software NVIDIA Base Command fornisce gestione del flusso di lavoro AI, gestione dei cluster di livello aziendale, librerie che accelerano elaborazione, archiviazione e infrastruttura di rete e software di sistema ottimizzato per i carichi di lavoro AI. È incluso anche il software AI Enterprise, che fornisce oltre 100 framework, modelli pre-addestrati e strumenti di sviluppo per semplificare lo sviluppo e l'implementazione dell'IA di produzione, inclusa l'IA generativa AI, visione artificiale, IA vocale e molto altro.
Supercomputer NVIDIA Il DGX GH200 sarà disponibile entro la fine dell'anno.
Leggi anche: