NVIDIA công bố loại siêu máy tính mới có dung lượng bộ nhớ lớn - siêu máy tính NVIDIA DGX dựa trên siêu chip NVIDIA Hệ thống chuyển đổi và phễu Grace GH200 NVIDIA NVLink. Nó được thiết kế để phát triển các mô hình thế hệ tiếp theo cho các ứng dụng tổng hợp AI, hệ thống đề xuất và khối lượng công việc phân tích dữ liệu.
Không gian bộ nhớ lớn NVIDIA DGX GH200 sử dụng công nghệ kết nối NVLink với Hệ thống chuyển mạch NVLink để kết hợp 256 siêu chip GH200, tạo thành một GPU duy nhất. Điều này mang lại hiệu suất 1 exaflop và bộ nhớ dùng chung 144 TB, gấp gần 500 lần so với thế hệ trước NVIDIA DGX A100, được giới thiệu vào năm 2020.
"Sáng tạo AI, các mô hình ngôn ngữ lớn và hệ thống gợi ý là động cơ kỹ thuật số của nền kinh tế hiện đại, người sáng lập và CEO cho biết NVIDIA Jensen Hoàng. – Siêu máy tính AI DGX GH200 tích hợp công nghệ mạng và điện toán tăng tốc tiên tiến NVIDIAđể mở rộng ranh giới của AI".
Như đã đưa tin trong thông cáo báo chí trên trang web của công ty, siêu chip GH200 loại bỏ nhu cầu kết nối PCIe CPU-GPU truyền thống. Họ kết hợp bộ xử lý NVIDIA Grace và GPU dựa trên cánh tay NVIDIA Lõi Tensor H100 trong một trường hợp. Điều này giúp tăng băng thông giữa GPU và CPU lên 7 lần, giảm đáng kể mức tiêu thụ điện năng và cung cấp 600 GB kiến trúc GPU Hopper cho các siêu máy tính mới. Kiến trúc DGX GH200 cung cấp băng thông NVLink nhiều hơn 48 lần so với thế hệ trước.
Google Cloud dự kiến sẽ Siêu dữ liệu và Microsoft sẽ là một trong những người đầu tiên có quyền truy cập vào DGX GH200 và khám phá khả năng của nó trong việc tạo khối lượng công việc AI. Nhà sản xuất cũng có ý định cung cấp thiết kế DGX GH200 dưới dạng mẫu cho các nhà cung cấp dịch vụ đám mây để họ có thể điều chỉnh nó cho phù hợp với cơ sở hạ tầng của mình.
Phó chủ tịch phụ trách điện toán tại Google Cloud Đánh dấu Lohmeyer. "Quy mô mới của NVLink và bộ nhớ siêu chip Grace Hopper giải quyết các tắc nghẽn chính trong AI quy mô lớn và chúng tôi mong muốn khám phá tiềm năng của nó cho Google Cloud và các sáng kiến AI tổng quát của chúng tôi."
Phó chủ tịch công ty phụ trách cơ sở hạ tầng Azure tại Microsoft Girish Bablani ghi nhận tiềm năng của DGX GH200 để làm việc với bộ dữ liệu hàng terabyte, cho phép các nhà phát triển tiến hành nghiên cứu ở quy mô lớn hơn và với tốc độ nhanh hơn.
Công ty cũng tạo ra một siêu máy tính NVIDIA Helios dựa trên DGX GH200 dành cho các nhà nghiên cứu và nhóm phát triển của mình. Nó sẽ được trang bị bốn hệ thống DGX GH200 và mỗi hệ thống sẽ được kết nối với nhau bằng mạng InfiniBand Quantum-2 để tăng thông lượng dữ liệu nhằm đào tạo các mô hình AI lớn. Helios sẽ bao gồm 1024 siêu chip Grace Hopper và dự kiến sẽ đi vào hoạt động vào cuối năm nay.
Phần mềm NVIDIA Base Command cung cấp khả năng quản lý quy trình làm việc AI, quản lý cụm cấp doanh nghiệp, các thư viện giúp tăng tốc cơ sở hạ tầng điện toán, lưu trữ và mạng cũng như phần mềm hệ thống được tối ưu hóa cho khối lượng công việc AI. Ngoài ra còn có phần mềm AI Enterprise, cung cấp hơn 100 khung, mô hình được đào tạo trước và các công cụ phát triển để đơn giản hóa việc phát triển và triển khai AI sản xuất, bao gồm cả AI tổng quát. AI, thị giác máy tính, giọng nói AI, v.v.
Siêu máy tính NVIDIA DGX GH200 sẽ có mặt trên thị trường vào cuối năm nay.
Đọc thêm: