NVIDIA оголосила про новий клас суперкомп’ютерів з великим обсягом пам’яті – суперкомп’ютер NVIDIA DGX на базі суперчіпів NVIDIA GH200 Grace Hopper та системи перемикачів NVIDIA NVLink. Він створений для розробки моделей нового покоління для застосунків генеративного ШІ, рекомендаційних систем та робочих навантажень з аналізу даних.
Масивний простір пам’яті NVIDIA DGX GH200 використовує технологію з’єднання NVLink з системою перемикачів NVLink Switch System для об’єднання 256 суперчипів GH200, які в результаті працюють як один графічний процесор. Це забезпечує 1 екзафлоп продуктивності та 144 ТБ спільної пам’яті, що майже в 500 разів більше, ніж у попереднього покоління NVIDIA DGX A100, яке було представлено у 2020 році.
“Генеративний ШІ, великі мовні моделі та рекомендаційні системи – це цифрові двигуни сучасної економіки, – заявив засновник і гендиректор NVIDIA Дженсен Хуанг. – Суперкомп’ютери DGX GH200 AI інтегрують найсучасніші технології прискорених обчислень і мережеві технології NVIDIA, щоб розширити межі ШІ”.
Як повідомляється у пресрелізі на сайті компанії, суперчипи GH200 усувають необхідність у традиційному з’єднанні CPU-GPU PCIe. Вони об’єднують процесор NVIDIA Grace на базі Arm і графічний процесор NVIDIA H100 Tensor Core в одному корпусі. Це збільшує пропускну здатність між GPU і CPU в 7 разів, суттєво знижує енергоспоживання і надає 600 ГБ архітектури GPU Hopper для нових суперкомп’ютерів. Архітектура DGX GH200 забезпечує в 48 разів більшу пропускну здатність NVLink, ніж попереднє покоління.
Очікується, що Google Cloud, Meta та Microsoft одними з перших отримають доступ до DGX GH200 і зможуть дослідити його можливості у генеруванні робочих навантажень ШІ. Виробник також має намір надати дизайн DGX GH200 як зразок постачальникам хмарних сервісів, щоб вони могли адаптувати його для своєї інфраструктури.
“Створення передових генеративних моделей вимагає інноваційних підходів до інфраструктури штучного інтелекту, – заявив віцепрезидент з обчислень в Google Cloud Марк Ломейер. – Новий масштаб NVLink і пам’ять суперчипів Grace Hopper усувають ключові вузькі місця у великомасштабному ШІ, і ми з нетерпінням чекаємо на вивчення його можливостей для Google Cloud і наших ініціатив у галузі генеративного ШІ”.
Корпоративний віцепрезидент з інфраструктури Azure в Microsoft Гіріш Баблані відзначив потенціал DGX GH200 для роботи з терабайтними наборами даних, який дозволить розробникам проводити дослідження в більших масштабах і на прискорених швидкостях.
Також компанія створює суперкомп’ютер NVIDIA Helios на базі DGX GH200 для своїх дослідників і команд розробників. Він буде оснащений чотирма системами DGX GH200, і кожна з них буде з’єднана між собою мережею Quantum-2 InfiniBand для збільшення пропускної здатності даних для навчання великих моделей ШІ. Helios включатиме 1024 суперчіпи Grace Hopper і, як очікується, буде запущений в експлуатацію до кінця року.
Програмне забезпечення NVIDIA Base Command забезпечує управління робочими процесами ШІ, управління кластерами корпоративного рівня, бібліотеки, які прискорюють обчислення, зберігання та мережеву інфраструктуру, а також системне програмне забезпечення, оптимізоване для роботи з робочими навантаженнями ШІ. Також включено ПЗ AI Enterprise, яке надає понад 100 фреймворків, попередньо навчених моделей та інструментів розробки для спрощення розробки та розгортання виробничого ШІ, включаючи генеративний ШІ, комп’ютерний зір, мовленнєвий ШІ та багато іншого.
Суперкомп’ютери NVIDIA DGX GH200 будуть доступні до кінця року.
Читайте також: