NVIDIA paskelbė apie naują superkompiuterių klasę su dideliu atminties kiekiu – superkompiuterį NVIDIA DGX, paremtas superlustais NVIDIA GH200 Grace Hopper ir jungiklių sistemos NVIDIA NVLink. Jis skirtas kurti naujos kartos modelius generacinėms programoms AI, rekomendacijų sistemos ir duomenų analizės darbo krūviai.
Didžiulė atminties erdvė NVIDIA DGX GH200 naudoja NVLink ryšio technologiją su NVLink Switch System, kad sujungtų 256 GH200 superlustus, kurie dėl to veikia kaip vienas GPU. Tai suteikia 1 eksaflopą našumą ir 144 TB bendros atminties, beveik 500 kartų daugiau nei ankstesnės kartos. NVIDIA DGX A100, kuris buvo pristatytas 2020 m.
„Generatyvus AI, dideli kalbų modeliai ir rekomendacijų sistemos yra šiuolaikinės ekonomikos skaitmeniniai varikliai, sakė įkūrėjas ir generalinis direktorius NVIDIA Jensenas Huangas. – DGX GH200 AI superkompiuteriai integruoja pažangiausias pagreitintas skaičiavimo ir tinklų technologijas NVIDIAišplėsti AI ribas“.
Kaip pranešama pranešime spaudai bendrovės svetainėje, GH200 superlustai pašalina tradicinio CPU-GPU PCIe ryšio poreikį. Jie sujungia procesorių NVIDIA Rankomis paremta „Grace“ ir GPU NVIDIA H100 Tensor Core viename korpuse. Tai 7 kartus padidina pralaidumą tarp GPU ir procesoriaus, žymiai sumažina energijos sąnaudas ir suteikia 600 GB GPU Hopper architektūros naujiems superkompiuteriams. DGX GH200 architektūra suteikia 48 kartus didesnį NVLink pralaidumą nei ankstesnės kartos.
Tikimasi, kad „Google Cloud“. meta kad Microsoft bus vieni pirmųjų, kurie gaus prieigą prie DGX GH200 ir ištirs jo galimybes generuoti AI darbo krūvius. Gamintojas taip pat ketina pateikti DGX GH200 dizainą kaip pavyzdį debesų paslaugų teikėjams, kad jie galėtų pritaikyti jį savo infrastruktūrai.
„Kuriant pažangius generatyvius modelius, reikia novatoriškų požiūrių į dirbtinio intelekto infrastruktūrą“, – sakė skaičiavimo viceprezidentas. "Google Cloud Markas Lohmeyeris. „Naujo masto NVLink ir „Grace Hopper superchip“ atmintis pašalina pagrindines didelio masto AI kliūtis, todėl tikimės ištirti jos potencialą „Google Cloud“ ir mūsų generuojamoms AI iniciatyvoms.
Azure infrastruktūros įmonės viceprezidentas Microsoft Girishas Bablani atkreipė dėmesį į DGX GH200 galimybes dirbti su terabaitų duomenų rinkiniais, o tai leis kūrėjams atlikti tyrimus didesniu mastu ir pagreitintu greičiu.
Bendrovė taip pat kuria superkompiuterį NVIDIA DGX GH200 pagrįstas Helios savo tyrėjams ir kūrėjų komandoms. Jame bus įrengtos keturios DGX GH200 sistemos ir kiekviena bus sujungta Quantum-2 InfiniBand tinklu, kad padidėtų duomenų pralaidumas treniruojant didelius AI modelius. „Helios“ turės 1024 XNUMX „Grace Hopper“ superlustus ir tikimasi, kad jie pradės veikti iki metų pabaigos.
Programinė įranga NVIDIA „Base Command“ teikia dirbtinio intelekto darbo eigos valdymą, įmonės lygio klasterių valdymą, bibliotekas, kurios pagreitina skaičiavimą, saugojimą ir tinklo infrastruktūrą, ir AI darbo krūviams optimizuotą sistemos programinę įrangą. Taip pat įtraukta AI Enterprise programinė įranga, kuri suteikia daugiau nei 100 struktūrų, iš anksto paruoštų modelių ir kūrimo įrankių, skirtų supaprastinti gamybinio AI, įskaitant generuojamąjį AI, kūrimą ir diegimą. AI, kompiuterinis matymas, kalbos AI ir daug daugiau.
Superkompiuteriai NVIDIA DGX GH200 bus prieinamas iki metų pabaigos.
Taip pat skaitykite: