NVIDIA kondigde een nieuwe klasse supercomputers aan met een grote hoeveelheid geheugen: de supercomputer NVIDIA DGX gebaseerd op superchips NVIDIA GH200 Grace Hopper- en wisselsystemen NVIDIA NVLink. Het is ontworpen om modellen van de volgende generatie te ontwikkelen voor generatieve toepassingen AI, aanbevelingssystemen en werklasten voor gegevensanalyse.
Enorme geheugenruimte NVIDIA De DGX GH200 maakt gebruik van NVLink-connectiviteitstechnologie met het NVLink Switch-systeem om 256 GH200-superchips te combineren, wat resulteert in één enkele GPU. Dit levert 1 exaflop aan prestaties en 144 TB gedeeld geheugen op, bijna 500 keer meer dan de vorige generatie NVIDIA DGX A100, geïntroduceerd in 2020.
"Generatief AIGrote taalmodellen en aanbevelingssystemen zijn de digitale motoren van de moderne economie, aldus de oprichter en CEO NVIDIA Jensen Huang. – DGX GH200 AI-supercomputers integreren de modernste versnelde computer- en netwerktechnologieën NVIDIAom de grenzen van AI te verleggen".
Zoals gerapporteerd in een persbericht op de website van het bedrijf, elimineren de GH200-superchips de noodzaak van een traditionele CPU-GPU PCIe-verbinding. Ze combineren de processor NVIDIA Armgebaseerde Grace en GPU NVIDIA H100 Tensor Core in één koffer. Dit vergroot de bandbreedte tussen GPU en CPU met 7 keer, vermindert het energieverbruik aanzienlijk en biedt 600 GB GPU Hopper-architectuur voor nieuwe supercomputers. De DGX GH200-architectuur biedt 48 keer meer NVLink-bandbreedte dan de vorige generatie.
Google Cloud zal naar verwachting meta dat Microsoft zal een van de eersten zijn die toegang krijgt tot de DGX GH200 en de mogelijkheden ervan voor het genereren van AI-workloads zal onderzoeken. De fabrikant is ook van plan het DGX GH200-ontwerp als voorbeeld te leveren aan cloudserviceproviders, zodat zij het kunnen aanpassen aan hun infrastructuur.
"Het creëren van geavanceerde generatieve modellen vereist innovatieve benaderingen van de kunstmatige-intelligentie-infrastructuur", aldus de vice-president van computing bij Google Cloud Mark Lohmeyer. "De nieuwe schaal van NVLink en het superchipgeheugen van Grace Hopper pakken de belangrijkste knelpunten in grootschalige AI aan, en we kijken ernaar uit om het potentieel ervan voor Google Cloud en onze generatieve AI-initiatieven te verkennen."
Corporate Vice President voor Azure Infrastructure in Microsoft Girish Bablani merkte het potentieel van de DGX GH200 op voor het werken met datasets van terabytes, waardoor ontwikkelaars op grotere schaal en met hogere snelheden onderzoek kunnen doen.
Het bedrijf maakt ook een supercomputer NVIDIA Op DGX GH200 gebaseerde Helios voor zijn onderzoekers en ontwikkelingsteams. Het zal worden uitgerust met vier DGX GH200-systemen, en elk zal met elkaar worden verbonden door een Quantum-2 InfiniBand-netwerk om de gegevensdoorvoer te vergroten voor het trainen van grote AI-modellen. Helios zal 1024 Grace Hopper-superchips bevatten en zal naar verwachting tegen het einde van het jaar operationeel zijn.
Software NVIDIA Base Command biedt AI-workflowbeheer, clusterbeheer op bedrijfsniveau, bibliotheken die de reken-, opslag- en netwerkinfrastructuur versnellen, en systeemsoftware die is geoptimaliseerd voor AI-workloads. Ook inbegrepen is AI Enterprise-software, die meer dan 100 raamwerken, vooraf getrainde modellen en ontwikkelingstools biedt om de ontwikkeling en implementatie van productie-AI, inclusief generatieve AI, te vereenvoudigen AI, computervisie, spraak-AI en nog veel meer.
Supercomputers NVIDIA De DGX GH200 zal eind dit jaar verkrijgbaar zijn.
Lees ook: