NVIDIA випустила нове покоління чипів для суперкомп’ютерів, які, як очікується, відіграватимуть важливу роль у майбутніх проривах у глибокому навчанні та великих мовних моделях (LLM), таких як OpenAI GPT-4. Ця технологія являє собою значний стрибок у порівнянні з попереднім поколінням і використовуватиметься в центрах обробки даних та суперкомп’ютерах.
Ключовим продуктом є графічний процесор HGX H200 на базі архітектури NVIDIA Hopper, який прийшов на зміну популярному графічному процесору H100. Це перший чип компанії, що використовує пам’ять HBM3e. Вона працює швидше та має більший об’єм, тож краще підходитиме для завдань, пов’язаних з великими мовними моделями. “Завдяки HBM3e NVIDIA H200 забезпечує 141 ГБ пам’яті зі швидкістю 4,8 терабайт в секунду, що майже вдвічі більше ємності та у 2,4 раза більше пропускної здатності в порівнянні з його попередником, NVIDIA A100”, – говорять у компанії.
Що стосується переваг для ШІ, NVIDIA заявляє, що HGX H200 подвоює швидкість виведення на Llama 2, моделі LLM з 70 млрд параметрів, у порівнянні з H100. Він працюватиме в усіх типах центрів обробки даних (локальних, хмарних, гібридно-хмарних і периферійних) і буде розгорнутий в Amazon Web Services, Google Cloud, Microsoft Azure та Oracle Cloud Infrastructure. Запуск запланований на II кв. 2024 року.
Іншим ключовим продуктом NVIDIA є “суперчип” GH200 Grace Hopper, який об’єднує графічний процесор HGX H200 і процесор NVIDIA Grace на базі Arm з використанням інтерфейсу NVLink-C2C. Він розроблений для суперкомп’ютерів, щоб дозволити “вченим і дослідникам розв’язувати найскладніші проблеми, прискорюючи високопродуктивні обчислення та складні застосунки на базі ШІ, що працюють з терабайтами даних”, – говорять у NVIDIA.
GH200 використовуватиметься в “40+ суперкомп’ютерах зі ШІ у світових дослідницьких центрах, системних виробниках і хмарних провайдерах”, в тому числі від Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT і Supermicro, зазначають в компанії. Серед них – суперкомп’ютери HPE Cray EX2500, які використовуватимуть чотири процесори GH200, масштабовані до десятків тисяч вузлів Grace Hopper Superchip.
Можливо, найбільшим суперкомп’ютером з Grace Hopper буде JUPITER, який стане “найпотужнішою у світі системою ШІ”, коли його запустять у 2024 році. Він використовує архітектуру з рідинним охолодженням, “з бустерним модулем, що складається з майже 24 000 суперчіпів NVIDIA GH200, з’єднаних між собою мережевою платформою NVIDIA Quantum-2 InfiniBand”, заявили в компанії.
У NVIDIA стверджують, що JUPITER допоможе зробити науковий прорив у ряді областей, включаючи прогнозування клімату та погоди, створюючи кліматичні та погодні симуляції з високою роздільною здатністю та інтерактивною візуалізацією. Він також використовуватиметься для розробки ліків, квантових обчислень і промислового інжинірингу.
Нові технології стануть ключовими для NVIDIA, яка зараз отримує більшу частину свого доходу від сегментів ШІ та центрів обробки даних. Минулого кварталу компанія отримала рекордні $10,32 млрд доходу лише в цій галузі, що на 171% більше, ніж рік тому. Нова технологія повинна допомогти їй збільшити перевагу над конкурентами в секторі, в якому вона вже домінує.
Читайте також:
全球超级网络