, має намір створити один із найпотужніших у світі суперкомп'ютерів для роботи з генеративним ШІ.){kind=link}
Корпорація Intel, за повідомленням сайту Datacenter Dynamics, має намір створити один із найпотужніших у світі суперкомп’ютерів для роботи з генеративним ШІ. Ресурси платформи використовуватиме компанія Stability AI, що реалізує проєкти у відповідній сфері. В основу НРС-платформи ляжуть процесори Xeon. Крім того, йдеться про використання приблизно 4000 прискорювачів Gaudi2.
Процесор Gaudi з’явився в результаті придбання Intel компанії Habana Labs у 2019 році за $2 млрд. У той час вона відмовилася від чипів штучного інтелекту з попереднього придбання Nervana на користь ізраїльського бізнесу.
Нещодавно Intel оприлюднила результати тестування Gaudi2 у бенчмарку GPT-J (входить до MLPerf Inference v3.1), що базується на великій мовній моделі (LLM) із 6 млрд параметрів. За оцінками, Gaudi2 може стати альтернативою рішенню NVIDIA H100 на ШІ-ринку.
Проте, H100, як і раніше, перевершує конкурентів у плані обробки ШІ-застосунків. Раніше NVIDIA анонсувала програмне забезпечення TensorRT-LLM з відкритим вихідним кодом, спеціально розроблене для прискорення виконання великих мовних моделей (LLM). За оцінками NVIDIA, застосування TensorRT-LLM дає змогу вдвічі збільшити продуктивність прискорювача H100 у тесті GPT-J 6B. При використанні моделі Llama2 приріст швидкодії в порівнянні з А100 досягає 4,6x.
Проєкт Intel і Stability AI допоможе компаніям зміцнити позиції на ринку генеративного ШІ. Про терміни запуску системи в експлуатацію та її передбачувану продуктивність нічого не повідомляється.
Читайте також:
- Intel оголосила, що процесори Meteor Lake будуть представлені 14 грудня
- У Лос-Аламоській лабораторії запущено суперкомп’ютер Crossroads на базі Intel Xeon Sapphire Rapids