NVIDIA 대용량 메모리를 탑재한 새로운 종류의 슈퍼컴퓨터, 슈퍼컴퓨터 발표 NVIDIA 슈퍼칩 기반 DGX NVIDIA GH200 그레이스 호퍼 및 스위치 시스템 NVIDIA NVLink. 생성적 애플리케이션을 위한 차세대 모델을 개발하도록 설계되었습니다. 일체 포함, 추천 시스템 및 데이터 분석 워크로드.
대용량 메모리 공간 NVIDIA DGX GH200은 NVLink 스위치 시스템과 NVLink 기술을 사용하여 256개의 GH200 슈퍼칩을 결합하여 궁극적으로 단일 GPU로 작동합니다. 이는 이전 세대보다 거의 1배 더 많은 144엑사플롭의 성능과 500TB의 공유 메모리를 제공합니다. NVIDIA 100년에 출시된 DGX A2020.
"생성 일체 포함설립자이자 CEO는 대규모 언어 모델과 추천 시스템이 현대 경제의 디지털 엔진이라고 말했습니다. NVIDIA 젠슨 황. – DGX GH200 AI 슈퍼컴퓨터는 최첨단 가속 컴퓨팅 및 네트워킹 기술을 통합합니다. NVIDIAAI의 경계를 넓히는 것입니다."
회사 웹사이트의 보도 자료에 따르면 GH200 슈퍼칩은 기존 CPU-GPU PCIe 연결이 필요하지 않습니다. 그들은 프로세서를 결합합니다 NVIDIA Arm 기반 Grace 및 GPU NVIDIA H100 Tensor Core가 한 케이스에 포함되어 있습니다. 이는 GPU와 CPU 사이의 대역폭을 7배 증가시키고, 전력 소비를 크게 줄이며, 새로운 슈퍼컴퓨터를 위한 600GB의 GPU 호퍼 아키텍처를 제공합니다. DGX GH200 아키텍처는 이전 세대보다 48배 더 많은 NVLink 대역폭을 제공합니다.
구글 클라우드는 메타 저것 Microsoft DGX GH200에 액세스하고 AI 워크로드 생성 기능을 탐색하는 최초의 기업 중 하나가 될 것입니다. 또한 제조업체는 DGX GH200 설계를 클라우드 서비스 제공업체에 샘플로 제공하여 인프라에 맞게 조정할 계획입니다.
"고급 생성 모델을 만들려면 인공 지능 인프라에 대한 혁신적인 접근 방식이 필요합니다."라고 컴퓨팅 부사장은 말했습니다. Google 클라우드 마크 로메이어. "NVLink의 새로운 스케일과 Grace Hopper 슈퍼칩 메모리는 대규모 AI의 주요 병목 현상을 해결하며 Google Cloud 및 생성 AI 이니셔티브에 대한 잠재력을 탐색하기를 기대합니다."
Azure 인프라 부문 기업 부사장 Microsoft Girish Bablani는 DGX GH200의 테라바이트 데이터 세트 작업 가능성에 주목하여 개발자가 더 큰 규모와 더 빠른 속도로 연구를 수행할 수 있도록 합니다.
회사는 또한 슈퍼컴퓨터를 만듭니다. NVIDIA 연구원 및 개발팀을 위한 DGX GH200 기반 Helios. 200개의 DGX GH2 시스템이 장착되며 각각은 Quantum-1024 InfiniBand 네트워크로 상호 연결되어 대규모 AI 모델 교육을 위한 데이터 처리량을 높입니다. Helios에는 개의 Grace Hopper 슈퍼칩이 포함될 예정이며 연말까지 운영될 것으로 예상됩니다.
소프트웨어 NVIDIA Base Command는 AI 워크플로우 관리, 엔터프라이즈급 클러스터 관리, 컴퓨팅, 스토리지, 네트워크 인프라를 가속화하는 라이브러리, AI 워크로드에 최적화된 시스템 소프트웨어를 제공합니다. 또한 생성 AI를 포함한 프로덕션 AI의 개발 및 배포를 단순화하기 위해 100개 이상의 프레임워크, 사전 훈련된 모델 및 개발 도구를 제공하는 AI Enterprise 소프트웨어도 포함되어 있습니다. 일체 포함, 컴퓨터 비전, 음성 AI 등.
슈퍼컴퓨터 NVIDIA DGX GH200은 연말까지 출시될 예정이다.
또한 읽기: