NVIDIA najavio novu klasu superkompjutera sa velikom količinom memorije - superkompjuter NVIDIA DGX baziran na superčipovima NVIDIA GH200 Grace Hopper i sistemi prekidača NVIDIA NVLink. Stvoren je za razvoj modela nove generacije za generativne aplikacije AI, sistemi preporuka i radna opterećenja analize podataka.
Ogroman memorijski prostor NVIDIA DGX GH200 koristi NVLink tehnologiju povezivanja sa NVLink Switch sistemom da kombinuje 256 GH200 superčipova, što rezultira jednim GPU-om. Ovo pruža 1 exaflop performansi i 144 TB dijeljene memorije, skoro 500 puta više od prethodne generacije NVIDIA DGX A100, koji je predstavljen 2020.
„Generativno AI, veliki jezički modeli i sistemi preporuka su digitalni motori moderne ekonomije, rekao je osnivač i izvršni direktor NVIDIA Jensen Huang. – DGX GH200 AI superračunari integrišu najsavremenije ubrzane računarske i mrežne tehnologije NVIDIAproširiti granice AI".
Kao što je objavljeno u saopštenju za štampu na veb stranici kompanije, GH200 superčipovi eliminišu potrebu za tradicionalnom CPU-GPU PCIe vezom. Kombinuju procesor NVIDIA Grace i GPU zasnovan na ruci NVIDIA H100 Tensor Core u jednom kućištu. Ovo povećava propusnost između GPU-a i CPU-a za 7 puta, značajno smanjuje potrošnju energije i pruža 600 GB GPU Hopper arhitekture za nove superračunare. Arhitektura DGX GH200 pruža 48 puta veći NVLink propusni opseg od prethodne generacije.
Očekuje se da će Google Cloud Meta to Microsoft će biti među prvima koji će dobiti pristup DGX GH200 i istražiti njegove mogućnosti u generiranju AI radnih opterećenja. Proizvođač također namjerava ponuditi DGX GH200 dizajn kao uzorak dobavljačima usluga u oblaku kako bi ga mogli prilagoditi svojoj infrastrukturi.
"Stvaranje naprednih generativnih modela zahtijeva inovativne pristupe infrastrukturi umjetne inteligencije", rekao je potpredsjednik računarstva u Google Cloud Mark Lohmeyer. "NVLink-ova nova skala i memorija Grace Hopper-a rješavaju ključna uska grla u velikoj umjetnoj inteligenciji i radujemo se što ćemo istražiti njen potencijal za Google Cloud i naše generativne AI inicijative."
Korporativni potpredsjednik za Azure infrastrukturu u Microsoft Girish Bablani je ukazao na potencijal DGX GH200 za rad sa skupovima podataka u terabajtu, što će omogućiti programerima da sprovode istraživanja u većim razmerama i pri ubrzanim brzinama.
Kompanija takođe kreira superkompjuter NVIDIA Helios baziran na DGX GH200 za svoje istraživače i razvojne timove. Biće opremljen sa četiri DGX GH200 sistema, a svaki će biti međusobno povezan Quantum-2 InfiniBand mrežom kako bi se povećao protok podataka za obuku velikih AI modela. Helios će uključivati 1024 Grace Hopper superčipa i očekuje se da će biti operativan do kraja godine.
Softver NVIDIA Base Command pruža upravljanje AI tokovima rada, upravljanje klasterima na nivou preduzeća, biblioteke koje ubrzavaju računanje, skladištenje i mrežnu infrastrukturu i sistemski softver optimizovan za AI radna opterećenja. Uključen je i softver AI Enterprise, koji pruža preko 100 okvira, unaprijed obučenih modela i razvojnih alata za pojednostavljenje razvoja i primjene proizvodne AI, uključujući generativnu AI AI, kompjuterski vid, govor AI i još mnogo toga.
Superkompjuteri NVIDIA DGX GH200 će biti dostupan do kraja godine.
Pročitajte također: