NVIDIA annonceret en ny klasse af supercomputere med en stor mængde hukommelse - supercomputeren NVIDIA DGX baseret på superchips NVIDIA GH200 Grace Hopper og switch-systemer NVIDIA NVLink. Det er designet til at udvikle næste generations modeller til generative applikationer AI, anbefalingssystemer og dataanalyse arbejdsbelastninger.
Massiv hukommelsesplads NVIDIA DGX GH200 bruger NVLink tilslutningsteknologi med NVLink Switch System til at kombinere 256 GH200 superchips, hvilket resulterer i en enkelt GPU. Dette giver 1 eksaflop af ydeevne og 144 TB delt hukommelse, næsten 500 gange mere end den forrige generation NVIDIA DGX A100, som blev introduceret i 2020.
"Generativ AI, store sprogmodeller og anbefalingssystemer er de digitale motorer i den moderne økonomi, sagde grundlæggeren og administrerende direktør NVIDIA Jensen Huang. – DGX GH200 AI supercomputere integrerer avancerede accelererede computer- og netværksteknologier NVIDIAat udvide grænserne for AI".
Som rapporteret i en pressemeddelelse på virksomhedens hjemmeside, eliminerer GH200 superchips behovet for en traditionel CPU-GPU PCIe-forbindelse. De kombinerer processoren NVIDIA Armbaseret Grace og GPU NVIDIA H100 Tensor Core i ét etui. Dette øger båndbredden mellem GPU og CPU med 7 gange, reducerer strømforbruget betydeligt og giver 600 GB GPU Hopper-arkitektur til nye supercomputere. DGX GH200-arkitekturen giver 48 gange mere NVLink-båndbredde end den forrige generation.
Google Cloud forventes at gøre det Meta og Microsoft vil være blandt de første til at få adgang til DGX GH200 og udforske dens muligheder for at generere AI-arbejdsbelastninger. Producenten har også til hensigt at levere DGX GH200-designet som et eksempel til cloud-tjenesteudbydere, så de kan tilpasse det til deres infrastruktur.
"At skabe avancerede generative modeller kræver innovative tilgange til kunstig intelligens-infrastruktur," sagde vicepræsidenten for computing hos Google Cloud Mark Lohmeyer. "NVLinks nye skala og Grace Hopper superchip-hukommelse adresserer vigtige flaskehalse i storstilet AI, og vi ser frem til at udforske dens potentiale for Google Cloud og vores generative AI-initiativer."
Corporate Vice President for Azure Infrastructure i Microsoft Girish Bablani bemærkede DGX GH200's potentiale for at arbejde med terabyte-datasæt, som vil give udviklere mulighed for at udføre forskning i større skalaer og med accelererede hastigheder.
Virksomheden laver også en supercomputer NVIDIA DGX GH200-baserede Helios til sine forskere og udviklingsteams. Den vil være udstyret med fire DGX GH200-systemer, og hver vil være forbundet med et Quantum-2 InfiniBand-netværk for at øge datagennemstrømningen til træning af store AI-modeller. Helios vil inkludere 1024 Grace Hopper-superchips og forventes at være operationel ved udgangen af året.
Software NVIDIA Base Command leverer AI-workflow-administration, enterprise-grade cluster management, biblioteker, der accelererer computer-, storage- og netværksinfrastruktur og systemsoftware optimeret til AI-arbejdsbelastninger. Også inkluderet er AI Enterprise-software, som giver over 100 rammer, præ-trænede modeller og udviklingsværktøjer til at forenkle udviklingen og implementeringen af produktions-AI, inklusive generativ AI AI, computersyn, tale-AI og meget mere.
Supercomputere NVIDIA DGX GH200 vil være tilgængelig i slutningen af året.
Læs også: