NVIDIA оголосила про своє наступне покоління чипів для штучного інтелекту, яка використовує новий суперчип Grace Hopper з першим у світі процесором HBM3e.
Нова платформа NVIDIA GH200 Grace Hopper призначена для важких генеративних робочих навантажень ШІ, таких як великі мовні моделі, такі як ChatGPT. NVIDIA також згадує інші застосунки ШІ, з якими вона може впоратися, такі як рекомендаційні системи та векторні бази даних.
Подвійна конфігурація пропонує в 3,5 раза більше пам’яті та в 3 рази більшу пропускну здатність, ніж поточне покоління. Вона має один сервер зі 144 ядрами Arm Neoverse, вісьмома петафлопсами продуктивності ШІ та 282 ГБ пам’яті HBM3e.
Генеральний директор NVIDIA Дженсен Хуанг прокоментував, що оновлення “покращують пропускну здатність, додають можливість підключення графічних процесорів для підвищення продуктивності без компромісів, а також мають дизайн сервера, який можна легко розгорнути в усьому центрі обробки даних”.
Суперчип Grace Hopper можна підключати до інших суперчипів через NVIDIA NVLink, щоб збільшити обчислювальну потужність, необхідну для розгортання великих моделей генеративного ШІ.
При такому підключенні графічний процесор має повний доступ до пам’яті центрального процесора, що забезпечує 1,2 ТБ пам’яті в режимі подвійної конфігурації.
Нова пам’ять HBM3e на 50% швидша за HBM3 із загальною пропускною здатністю 10 ТБ/с, тому вона може працювати з моделями, які в 3,5 раза більші. Продуктивність також підвищується завдяки збільшеній в 3 рази пропускній здатності.
Нова платформа Grace Hopper Superchip з HBM3e повністю сумісна зі специфікацією серверів NVIDIA MGX, що дозволяє будь-якому виробнику додати Grace Hopper до більш ніж сотні варіантів серверів швидко та економічно ефективно, стверджує компанія.
Ця новина свідчить про подальше домінування NVIDIA в галузі апаратного забезпечення для штучного інтелекту, оскільки її графічні процесори A100 були використані для живлення машин, що стоять за ChatGPT, сумнозвісним чат-ботом, який дав старт новому сміливому світу передових автоматизованих обчислень. Потім з’явився його наступник, H100.
NVIDIA також заявляє, що очікує, що виробники систем випустять перші моделі на базі Grace Hopper у 2 кварталі 2024 року.
Читайте також:
Leave a Reply