NVIDIA 大量のメモリを搭載した新しいクラスのスーパーコンピューター、スーパーコンピューターを発表しました。 NVIDIA スーパーチップに基づく DGX NVIDIA GH200 グレース ホッパーとスイッチシステム NVIDIA NVリンク。生成アプリケーション用の次世代モデルを開発するように設計されています AI、レコメンダー システムとデータ分析ワークロード。
大規模なメモリ空間 NVIDIA DGX GH200 は、NVLink テクノロジーと NVLink スイッチ システムを使用して 256 個の GH200 スーパーチップを結合し、最終的には単一の GPU として動作します。これにより、前世代のほぼ 1 倍となる 144 エクサフロップスのパフォーマンスと 500 TB の共有メモリが提供されます。 NVIDIA 100年に登場したDGX A2020。
"原動力 AI、大規模な言語モデルとレコメンダー システムは現代経済のデジタル エンジンであると創設者兼 CEO は語った NVIDIA ジェンセン・ファン。 – DGX GH200 AI スーパーコンピューターは、最先端のアクセラレーション コンピューティングとネットワーキング テクノロジーを統合しています NVIDIAAIの限界を拡大します。」
同社の Web サイトのプレス リリースで報告されているように、GH200 スーパーチップにより、従来の CPU-GPU PCIe 接続が不要になります。プロセッサーを組み合わせています NVIDIA ArmベースのGraceとGPU NVIDIA H100 Tensor コア 7 つのケース。これにより、GPU と CPU 間の帯域幅が 600 倍に増加し、消費電力が大幅に削減され、新しいスーパーコンピューターに 200 GB の GPU ホッパー アーキテクチャが提供されます。 DGX GH48 アーキテクチャは、前世代の 倍の NVLink 帯域幅を提供します。
Google Cloud に期待されているのは、 Meta その Microsoft は、DGX GH200 に最初にアクセスし、AI ワークロードの生成におけるその機能を探索する企業の 200 つとなります。メーカーはまた、DGX GH 設計をサンプルとしてクラウド サービス プロバイダーに提供し、クラウド サービス プロバイダーが自社のインフラストラクチャに適応できるようにする予定です。
「高度な生成モデルを作成するには、人工知能インフラストラクチャへの革新的なアプローチが必要です」と、コンピューティング担当副社長は述べています。 Googleクラウド マーク・ローマイヤー。 「NVLink の新しいスケールと Grace Hopper スーパーチップ メモリは、大規模 AI における主要なボトルネックに対処します。私たちは、Google Cloud と当社の生成 AI イニシアチブにおけるその可能性を探求することを楽しみにしています。」
Azureインフラストラクチャ担当コーポレートバイスプレジデント Microsoft Girish Bablani 氏は、DGX GH200 がテラバイトのデータセットを処理できる可能性を指摘し、これにより開発者はより大規模かつ加速された速度で研究を実施できるようになります。
同社はスーパーコンピューターも開発しています NVIDIA 研究者および開発チーム向けの DGX GH200 ベースの Helios。 200 つの DGX GH2 システムが装備され、それぞれが Quantum-1024 InfiniBand ネットワークによって相互接続され、大規模な AI モデルをトレーニングするためのデータ スループットが向上します。 Helios には 個の Grace Hopper スーパーチップが搭載されており、年末までに稼働する予定です。
ソフトウェア NVIDIA Base Command は、AI ワークフロー管理、エンタープライズ グレードのクラスター管理、コンピューティング、ストレージ、ネットワーク インフラストラクチャを高速化するライブラリ、AI ワークロードに最適化されたシステム ソフトウェアを提供します。 AI Enterprise ソフトウェアも含まれており、100 を超えるフレームワーク、事前トレーニングされたモデル、および生成 AI を含む実稼働 AI の開発と展開を簡素化する開発ツールを提供します。 AI、コンピュータービジョン、音声AIなど。
スーパーコンピューター NVIDIA DGX GH200 は年末までに発売される予定です。
また読む：