NVIDIA tillkännagav en ny klass av superdatorer med en stor mängd minne - superdatorn NVIDIA DGX baserad på superchips NVIDIA GH200 Grace Hopper och switchsystem NVIDIA NVLink. Den är utformad för att utveckla nästa generations modeller för generativa applikationer AI, rekommendatorsystem och arbetsbelastningar för dataanalys.
Massivt minnesutrymme NVIDIA DGX GH200 använder NVLink-anslutningsteknik med NVLink Switch System för att kombinera 256 GH200 superchips, som som ett resultat fungerar som en enda GPU. Detta ger 1 exaflop prestanda och 144 TB delat minne, nästan 500 gånger mer än föregående generation NVIDIA DGX A100, som introducerades 2020.
"Generativ AI, stora språkmodeller och rekommendatorsystem är den moderna ekonomins digitala motorer, sa grundaren och VD:n NVIDIA Jensen Huang. – DGX GH200 AI superdatorer integrerar toppmoderna accelererade datorer och nätverkstekniker NVIDIAatt utvidga gränserna för AI”.
Som rapporterats i ett pressmeddelande på företagets hemsida, eliminerar GH200 superchipsen behovet av en traditionell CPU-GPU PCIe-anslutning. De kombinerar processorn NVIDIA Armbaserad Grace och GPU NVIDIA H100 Tensor Core i ett fodral. Detta ökar bandbredden mellan GPU och CPU med 7 gånger, minskar strömförbrukningen avsevärt och ger 600 GB GPU Hopper-arkitektur för nya superdatorer. DGX GH200-arkitekturen ger 48 gånger mer NVLink-bandbredd än föregående generation.
Google Cloud förväntas göra det meta att Microsoft kommer att vara bland de första att få tillgång till DGX GH200 och utforska dess förmåga att generera AI-arbetsbelastningar. Tillverkaren avser också att tillhandahålla DGX GH200-designen som ett exempel till molntjänstleverantörer så att de kan anpassa den för sin infrastruktur.
"Att skapa avancerade generativa modeller kräver innovativa tillvägagångssätt för infrastruktur för artificiell intelligens", säger vicepresidenten för databehandling på Google Cloud Mark Lohmeyer. "NVLinks nya skala och Grace Hopper superchipminne tar itu med viktiga flaskhalsar i storskalig AI, och vi ser fram emot att utforska dess potential för Google Cloud och våra generativa AI-initiativ."
Corporate Vice President för Azure Infrastructure i Microsoft Girish Bablani noterade DGX GH200:s potential för att arbeta med terabyte-datauppsättningar, vilket kommer att göra det möjligt för utvecklare att bedriva forskning i större skala och med accelererade hastigheter.
Företaget skapar också en superdator NVIDIA DGX GH200-baserade Helios för sina forskare och utvecklingsteam. Den kommer att vara utrustad med fyra DGX GH200-system, och vart och ett kommer att vara sammankopplat av ett Quantum-2 InfiniBand-nätverk för att öka datagenomströmningen för att träna stora AI-modeller. Helios kommer att inkludera 1024 XNUMX Grace Hopper superchips och förväntas vara i drift i slutet av året.
programvara NVIDIA Base Command tillhandahåller AI-arbetsflödeshantering, företagsklassad klusterhantering, bibliotek som accelererar beräknings-, lagrings- och nätverksinfrastruktur och systemprogramvara optimerad för AI-arbetsbelastningar. Dessutom ingår AI Enterprise-programvara, som tillhandahåller över 100 ramverk, förutbildade modeller och utvecklingsverktyg för att förenkla utvecklingen och driftsättningen av produktions-AI, inklusive generativ AI AI, datorseende, tal AI och mycket mer.
Superdatorer NVIDIA DGX GH200 kommer att finnas tillgänglig i slutet av året.
Läs också: