NVIDIA oznámila novou třídu superpočítačů s velkým množstvím paměti - superpočítač NVIDIA DGX založené na superčipech NVIDIA GH200 Grace Hopper a spínací systémy NVIDIA NVLink. Je navržen pro vývoj modelů nové generace pro generativní aplikace AI, doporučovací systémy a zátěže analýzy dat.
Masivní paměťový prostor NVIDIA DGX GH200 využívá technologii připojení NVLink se systémem NVLink Switch System ke spojení 256 superčipů GH200, které ve výsledku fungují jako jeden GPU. To poskytuje 1 exaflop výkonu a 144 TB sdílené paměti, téměř 500krát více než předchozí generace NVIDIA DGX A100, který byl představen v roce 2020.
"Generativní AI, velké jazykové modely a doporučovací systémy jsou digitálními motory moderní ekonomiky, řekl zakladatel a generální ředitel NVIDIA Jensen Huang. – Superpočítače DGX GH200 AI integrují nejmodernější zrychlené výpočetní a síťové technologie NVIDIArozšířit hranice AI“.
Jak bylo uvedeno v tiskové zprávě na webových stránkách společnosti, superčipy GH200 eliminují potřebu tradičního připojení CPU-GPU PCIe. Kombinují procesor NVIDIA Grace a GPU na bázi Arm NVIDIA H100 Tensor Core v jednom pouzdře. To zvyšuje šířku pásma mezi GPU a CPU 7krát, výrazně snižuje spotřebu energie a poskytuje 600 GB architektury GPU Hopper pro nové superpočítače. Architektura DGX GH200 poskytuje 48krát větší šířku pásma NVLink než předchozí generace.
Očekává se, že Google Cloud meta to Microsoft bude mezi prvními, kteří získají přístup k DGX GH200 a prozkoumají jeho schopnosti při generování pracovních zátěží AI. Výrobce také hodlá poskytnout design DGX GH200 jako vzorek poskytovatelům cloudových služeb, aby si jej mohli přizpůsobit pro svou infrastrukturu.
„Vytváření pokročilých generativních modelů vyžaduje inovativní přístupy k infrastruktuře umělé inteligence,“ řekl viceprezident pro výpočetní techniku ve společnosti Google Cloud Mark Lohmeyer. „Nová škála NVLink a paměť superčipu Grace Hopper řeší klíčová úzká místa ve velkém měřítku AI a těšíme se, až prozkoumáme její potenciál pro Google Cloud a naše generativní iniciativy AI.“
Firemní viceprezident pro infrastrukturu Azure v Microsoft Girish Bablani si všiml potenciálu DGX GH200 pro práci s terabajtovými datovými sadami, což vývojářům umožní provádět výzkum ve větším měřítku a při vyšších rychlostech.
Společnost také vytváří superpočítač NVIDIA Helios založený na DGX GH200 pro jeho výzkumné a vývojové týmy. Bude vybaven čtyřmi systémy DGX GH200 a každý bude propojen sítí Quantum-2 InfiniBand pro zvýšení datové propustnosti pro trénink velkých modelů umělé inteligence. Helios bude obsahovat 1024 XNUMX superčipů Grace Hopper a očekává se, že bude funkční do konce roku.
Software NVIDIA Base Command poskytuje správu pracovních toků AI, správu klastrů na podnikové úrovni, knihovny, které zrychlují výpočetní, úložnou a síťovou infrastrukturu, a systémový software optimalizovaný pro pracovní zátěže AI. Součástí je také software AI Enterprise, který poskytuje více než 100 rámců, předem vyškolených modelů a vývojových nástrojů pro zjednodušení vývoje a nasazení produkční umělé inteligence, včetně generativní umělé inteligence. AI, počítačové vidění, řečová umělá inteligence a mnoho dalšího.
Superpočítače NVIDIA DGX GH200 bude dostupný do konce roku.
Přečtěte si také: