NVIDIA kuulutas välja uue suure mälumahuga superarvutite klassi – superarvuti NVIDIA DGX põhineb superkiipidel NVIDIA GH200 Grace Hopper ja lülitussüsteemid NVIDIA NVLink. See on loodud generatiivsete rakenduste järgmise põlvkonna mudelite väljatöötamiseks AI, soovitamissüsteemid ja andmeanalüüsi töökoormused.
Suur mäluruum NVIDIA DGX GH200 kasutab NVLinki ühendustehnoloogiat NVLink Switch Systemiga, et ühendada 256 GH200 superkiipi, mis selle tulemusena töötavad ühe GPU-na. See tagab 1 eksaflopi jõudluse ja 144 TB jagatud mälu, mis on peaaegu 500 korda rohkem kui eelmisel põlvkonnal NVIDIA DGX A100, mis võeti kasutusele 2020. aastal.
"Generatiivne AI, suured keelemudelid ja soovitussüsteemid on kaasaegse majanduse digitaalsed mootorid, ütles asutaja ja tegevjuht NVIDIA Jensen Huang. – DGX GH200 AI superarvutid integreerivad tipptasemel kiirendatud andmetöötlus- ja võrgutehnoloogiaid NVIDIAAI piiride laiendamiseks".
Nagu ettevõtte veebisaidil avaldatud pressiteates teatati, välistavad GH200 superkiibid vajaduse traditsioonilise CPU-GPU PCIe ühenduse järele. Nad ühendavad protsessori NVIDIA Käepõhine Grace ja GPU NVIDIA H100 Tensor Core ühes korpuses. See suurendab ribalaiust GPU ja CPU vahel 7 korda, vähendab oluliselt energiatarbimist ja annab uutele superarvutitele 600 GB GPU Hopperi arhitektuuri. DGX GH200 arhitektuur pakub 48 korda rohkem NVLinki ribalaiust kui eelmine põlvkond.
Google Cloud eeldatakse Meta ja Microsoft on esimeste seas, kes pääseb juurde DGX GH200-le ja uurib selle võimalusi tehisintellekti töökoormuse genereerimiseks. Samuti kavatseb tootja pakkuda DGX GH200 disaini näidisena pilveteenuse pakkujatele, et nad saaksid seda oma infrastruktuuri jaoks kohandada.
"Täiustatud generatiivsete mudelite loomine nõuab uuenduslikke lähenemisi tehisintellekti taristule," ütles andmetöötluse asepresident. Google Cloud Mark Lohmeyer. "NVLinki uus skaala ja Grace Hopperi superkiibi mälu lahendavad suuremahulise tehisintellekti peamised kitsaskohad ning ootame huviga selle potentsiaali avastamist Google Cloudi ja meie generatiivsete AI-algatuste jaoks."
Ettevõtte Azure'i infrastruktuuri asepresident Microsoft Girish Bablani märkis DGX GH200 potentsiaali töötada terabaidiste andmekogumitega, mis võimaldab arendajatel teha uuringuid suuremas mahus ja kiirendatud kiirusega.
Ettevõte loob ka superarvutit NVIDIA DGX GH200-l põhinev Helios oma teadlastele ja arendusmeeskondadele. See on varustatud nelja DGX GH200 süsteemiga ja igaüks neist on omavahel ühendatud Quantum-2 InfiniBand võrguga, et suurendada andmeedastusvõimet suurte AI mudelite treenimiseks. Helios sisaldab 1024 Grace Hopperi superkiipi ja see peaks tööle minema aasta lõpuks.
Tarkvara NVIDIA Base Command pakub tehisintellekti töövoo haldust, ettevõtte tasemel klastrihaldust, arvutus-, salvestus- ja võrguinfrastruktuuri kiirendavaid teeke ning AI töökoormuste jaoks optimeeritud süsteemitarkvara. Samuti on kaasas AI Enterprise'i tarkvara, mis pakub üle 100 raamistiku, eelkoolitatud mudelid ja arendustööriistad, et lihtsustada tootmis-AI, sealhulgas generatiivse AI arendamist ja juurutamist. AI, arvutinägemine, kõne AI ja palju muud.
Superarvutid NVIDIA DGX GH200 on saadaval aasta lõpuks.
Loe ka: