Vendredi 29er mars 2024

bureau v4.2.1

Root NationНовиниActualités informatiquesNVIDIA a présenté le supercalculateur DGX GH200 pour le développement de l'IA

NVIDIA a présenté le supercalculateur DGX GH200 pour le développement de l'IA

-

NVIDIA a annoncé une nouvelle classe de supercalculateurs dotés d'une grande quantité de mémoire - le supercalculateur NVIDIA DGX basé sur des superpuces NVIDIA GH200 Grace Hopper et systèmes de commutation NVIDIA NVLink. Il est conçu pour développer des modèles de nouvelle génération pour des applications génératives IA, systèmes de recommandation et charges de travail d'analyse de données.

Espace mémoire massif NVIDIA Le DGX GH200 utilise la technologie NVLink avec le système de commutation NVLink pour combiner 256 superpuces GH200, qui fonctionnent finalement comme un seul GPU. Cela fournit 1 exaflop de performances et 144 To de mémoire partagée, soit près de 500 fois plus que la génération précédente. NVIDIA DGX A100, introduit en 2020.

NVIDIA

"Génératif IA, les grands modèles linguistiques et les systèmes de recommandation sont les moteurs numériques de l'économie moderne, a déclaré le fondateur et PDG NVIDIA Jensen Huang. – Les supercalculateurs DGX GH200 AI intègrent des technologies de pointe en matière de calcul accéléré et de mise en réseau NVIDIApour repousser les limites de l'IA".

Comme indiqué dans un communiqué de presse sur le site Web de la société, les superpuces GH200 éliminent le besoin d'une connexion PCIe CPU-GPU traditionnelle. Ils combinent le processeur NVIDIA Grace et GPU basés sur Arm NVIDIA H100 Tensor Core dans un boîtier. Cela augmente de 7 fois la bande passante entre le GPU et le CPU, réduit considérablement la consommation d'énergie et fournit 600 Go d'architecture GPU Hopper pour les nouveaux supercalculateurs. L'architecture DGX GH200 fournit 48 fois plus de bande passante NVLink que la génération précédente.

Google Cloud devrait Meta que Microsoft sera parmi les premiers à avoir accès au DGX GH200 et à explorer ses capacités à générer des charges de travail d'IA. Le constructeur prévoit également de fournir le design du DGX GH200 comme échantillon aux fournisseurs de services cloud afin qu'ils puissent l'adapter à leur infrastructure.

NVIDIA

"La création de modèles génératifs avancés nécessite des approches innovantes de l'infrastructure d'intelligence artificielle", a déclaré le vice-président de l'informatique chez Google Cloud Marc Lohmeyer. "La nouvelle échelle de NVLink et la mémoire de la superpuce Grace Hopper résolvent les principaux goulots d'étranglement de l'IA à grande échelle, et nous sommes impatients d'explorer son potentiel pour Google Cloud et nos initiatives d'IA générative."

Vice-président corporatif pour Azure Infrastructure en Microsoft Girish Bablani a noté le potentiel du DGX GH200 pour travailler avec des ensembles de données de téraoctets, ce qui permettra aux développeurs de mener des recherches à plus grande échelle et à des vitesses accélérées.

Intelligence artificielle

L'entreprise crée également un supercalculateur NVIDIA Helios basé sur DGX GH200 pour ses chercheurs et équipes de développement. Il sera équipé de quatre systèmes DGX GH200, et chacun sera interconnecté par un réseau Quantum-2 InfiniBand pour augmenter le débit de données pour la formation de grands modèles d'IA. Helios comprendra 1024 XNUMX superpuces Grace Hopper et devrait être opérationnel d'ici la fin de l'année.

Logiciel NVIDIA Base Command fournit une gestion des flux de travail d'IA, une gestion de cluster de niveau entreprise, des bibliothèques qui accélèrent l'infrastructure de calcul, de stockage et de réseau, ainsi qu'un logiciel système optimisé pour les charges de travail d'IA. Le logiciel AI Enterprise est également inclus, qui fournit plus de 100 frameworks, modèles pré-entraînés et outils de développement pour simplifier le développement et le déploiement de l'IA de production, y compris l'IA générative. IA, vision par ordinateur, IA vocale et bien plus encore.

Supercalculateurs NVIDIA Le DGX GH200 sera disponible d’ici la fin de l’année.

Lisez aussi:

sourcenvidia
S'inscrire
Avertir de
invité

0 Commentaires
Avis intégrés
Voir tous les commentaires
Autres articles
Abonnez-vous pour les mises à jour

Commentaires récents

Populaire maintenant
0
Nous aimons vos pensées, veuillez commenter.x