Kamis, 28 Maret 2024

desktop v4.2.1

Root NationНовиниberita TINVIDIA memperkenalkan superkomputer DGX GH200 untuk pengembangan AI

NVIDIA memperkenalkan superkomputer DGX GH200 untuk pengembangan AI

-

NVIDIA mengumumkan kelas superkomputer baru dengan jumlah memori yang besar - superkomputer NVIDIA DGX berdasarkan superchip NVIDIA GH200 Grace Hopper dan sistem saklar NVIDIA Tautan NV. Ini dirancang untuk mengembangkan model generasi berikutnya untuk aplikasi generatif AI, sistem pemberi rekomendasi, dan beban kerja analisis data.

Ruang memori yang sangat besar NVIDIA DGX GH200 menggunakan teknologi koneksi NVLink dengan NVLink Switch System untuk menggabungkan 256 superchip GH200, sehingga berfungsi sebagai satu GPU. Ini memberikan kinerja 1 exaflop dan memori bersama 144 TB, hampir 500 kali lebih banyak dibandingkan generasi sebelumnya NVIDIA DGX A100 yang diperkenalkan pada tahun 2020.

NVIDIA

"Generatif AI, model bahasa besar dan sistem rekomendasi adalah mesin digital perekonomian modern, kata pendiri dan CEO NVIDIA Jensen Huang. – Superkomputer AI DGX GH200 mengintegrasikan teknologi komputasi dan jaringan terakselerasi yang canggih NVIDIAuntuk memperluas batas-batas AI".

Seperti dilaporkan dalam siaran pers di situs web perusahaan, superchip GH200 menghilangkan kebutuhan akan koneksi PCIe CPU-GPU tradisional. Mereka menggabungkan prosesor NVIDIA Grace dan GPU berbasis lengan NVIDIA Inti Tensor H100 dalam satu kasus. Hal ini meningkatkan bandwidth antara GPU dan CPU sebanyak 7 kali lipat, mengurangi konsumsi daya secara signifikan, dan menyediakan arsitektur GPU Hopper sebesar 600 GB untuk superkomputer baru. Arsitektur DGX GH200 menyediakan bandwidth NVLink 48 kali lebih banyak dibandingkan generasi sebelumnya.

Google Cloud diharapkan meta dan Microsoft akan menjadi orang pertama yang mendapatkan akses ke DGX GH200 dan mengeksplorasi kemampuannya dalam menghasilkan beban kerja AI. Pabrikan juga bermaksud untuk memberikan desain DGX GH200 sebagai sampel kepada penyedia layanan cloud sehingga mereka dapat menyesuaikannya dengan infrastruktur mereka.

NVIDIA

"Membuat model generatif canggih membutuhkan pendekatan inovatif untuk infrastruktur kecerdasan buatan," kata wakil presiden komputasi di Google Cloud Mark Lohmeyer. "Skala baru NVLink dan memori superchip Grace Hopper mengatasi hambatan utama dalam AI skala besar, dan kami berharap dapat mengeksplorasi potensinya untuk Google Cloud dan inisiatif AI generatif kami."

Wakil Presiden Perusahaan untuk Infrastruktur Azure di Microsoft Girish Bablani mencatat potensi DGX GH200 untuk bekerja dengan kumpulan data terabyte, yang akan memungkinkan pengembang untuk melakukan penelitian pada skala yang lebih besar dan dengan kecepatan yang dipercepat.

Kecerdasan Buatan

Perusahaan juga menciptakan superkomputer NVIDIA Helios berbasis DGX GH200 untuk para peneliti dan tim pengembangannya. Ini akan dilengkapi dengan empat sistem DGX GH200, dan masing-masing akan dihubungkan oleh jaringan Quantum-2 InfiniBand untuk meningkatkan throughput data untuk pelatihan model AI besar. Helios akan mencakup 1024 superchip Grace Hopper dan diharapkan dapat beroperasi pada akhir tahun ini.

Perangkat lunak NVIDIA Base Command menyediakan manajemen alur kerja AI, manajemen cluster tingkat perusahaan, perpustakaan yang mempercepat komputasi, penyimpanan, dan infrastruktur jaringan, serta perangkat lunak sistem yang dioptimalkan untuk beban kerja AI. Juga disertakan perangkat lunak AI Enterprise, yang menyediakan lebih dari 100 kerangka kerja, model terlatih, dan alat pengembangan untuk menyederhanakan pengembangan dan penerapan AI produksi, termasuk AI generatif. AI, visi komputer, AI ucapan, dan banyak lagi.

Superkomputer NVIDIA DGX GH200 akan tersedia pada akhir tahun ini.

Baca juga:

Jerelonvidia
Daftar
Beritahu tentang
tamu

0 komentar
Ulasan Tertanam
Lihat semua komentar
Artikel lainnya
Berlangganan untuk pembaruan

Komentar terbaru

Populer sekarang
0
Kami menyukai pemikiran Anda, silakan beri komentar.x