NVIDIA anunciou uma nova classe de supercomputadores com grande quantidade de memória - o supercomputador NVIDIA DGX baseado em superchips NVIDIA GH200 Grace Hopper e sistemas de comutação NVIDIA NVLink. Ele foi projetado para desenvolver modelos de próxima geração para aplicações generativas IA, sistemas de recomendação e cargas de trabalho de análise de dados.
Espaço de memória enorme NVIDIA O DGX GH200 usa tecnologia de conectividade NVLink com o NVLink Switch System para combinar 256 superchips GH200, resultando em uma única GPU. Isso fornece 1 exaflop de desempenho e 144 TB de memória compartilhada, quase 500 vezes mais que a geração anterior NVIDIA DGX A100, lançado em 2020.
"Generativo IA, grandes modelos de linguagem e sistemas de recomendação são os motores digitais da economia moderna, disse o fundador e CEO NVIDIA Jensen Huang. – Os supercomputadores DGX GH200 AI integram tecnologias de rede e computação acelerada de última geração NVIDIApara expandir as fronteiras da IA".
Conforme relatado em comunicado à imprensa no site da empresa, os superchips GH200 eliminam a necessidade de uma conexão PCIe CPU-GPU tradicional. Eles combinam o processador NVIDIA Grace e GPU baseados em braço NVIDIA Tensor Core H100 em um caso. Isso aumenta a largura de banda entre GPU e CPU em 7x, reduz significativamente o consumo de energia e fornece 600 GB de arquitetura GPU Hopper para novos supercomputadores. A arquitetura DGX GH200 oferece 48 vezes mais largura de banda NVLink do que a geração anterior.
Espera-se que o Google Cloud Meta que Microsoft estará entre os primeiros a obter acesso ao DGX GH200 e a explorar suas capacidades na geração de cargas de trabalho de IA. O fabricante também pretende fornecer o design do DGX GH200 como amostra aos provedores de serviços em nuvem para que possam adaptá-lo à sua infraestrutura.
"Criar modelos generativos avançados requer abordagens inovadoras para infraestrutura de inteligência artificial", disse o vice-presidente de computação da Parceria Marcos Lohmeyer. "A nova escala do NVLink e a memória do superchip Grace Hopper abordam os principais gargalos na IA em larga escala, e estamos ansiosos para explorar seu potencial para o Google Cloud e nossas iniciativas de IA generativa".
Vice-presidente corporativo de infraestrutura do Azure em Microsoft Girish Bablani observou o potencial do DGX GH200 para trabalhar com conjuntos de dados de terabytes, o que permitirá aos desenvolvedores realizar pesquisas em escalas maiores e em velocidades aceleradas.
A empresa também cria um supercomputador NVIDIA Helios baseado em DGX GH200 para seus pesquisadores e equipes de desenvolvimento. Ele será equipado com quatro sistemas DGX GH200 e cada um será interconectado por uma rede Quantum-2 InfiniBand para aumentar o rendimento de dados para treinar grandes modelos de IA. O Helios incluirá 1024 superchips Grace Hopper e deverá estar operacional até o final do ano.
Programas NVIDIA O Base Command fornece gerenciamento de fluxo de trabalho de IA, gerenciamento de cluster de nível empresarial, bibliotecas que aceleram computação, armazenamento e infraestrutura de rede, além de software de sistema otimizado para cargas de trabalho de IA. Também está incluído o software AI Enterprise, que fornece mais de 100 estruturas, modelos pré-treinados e ferramentas de desenvolvimento para simplificar o desenvolvimento e a implantação de IA de produção, incluindo IA generativa. IA, visão computacional, IA de fala e muito mais.
Supercomputadores NVIDIA O DGX GH200 estará disponível até o final do ano.
Leia também: