У міру впровадження AI багато компаній стикаються з тим, що їхня інфраструктура не встигає за навантаженням. Хтось використовує хмарні сервіси, однак хмара може створювати ризики для конфіденційності. Іншим шляхом є модернізація локальної інфраструктури, але це досить затратний процес. Нові карти AMD Instinct MI350 PCIe, за словами компанії, пропонують третій варіант – графічний прискорювач, що легко інтегрується у наявні системи.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Ці рішення створене для того, щоб зробити AI доступнішим і масштабованим для підприємств, які хочуть розгортати нейромережі на власних потужностях без істотних змін в інфраструктурі живлення, охолодження чи серверних стійках.
Читайте також: AERONAUT – про все, що літає вище землі: авіація, БПЛА та дрони, ракети та космос
За словами AMD, Instinct MI350P PCIe створений для підготовки до епохи агентного AI. Це двослотовий графічний прискорювач для інференсу у форматі drop-in для стандартних серверів з повітряним охолодженням. Він розрахований на локальне розгортання AI-інференсу в межах уже існуючих систем.
Формат PCIe є оптимальним вибором для компаній, яким потрібно більше AI-обчислювальної потужності, але які поки не готові інвестувати в окремі GPU-платформи. Це PCIe-рішення у форматі plug-in можна інтегрувати в наявні сервери без суттєвих змін інфраструктури, і воно допомагає клієнтам підвищити рентабельність інвестицій в AI завдяки ефективному співвідношенню продуктивності та вартості, а також спрощує впровадження завдяки відкритій екосистемі ROCm.
У системах з повітряним охолодженням можуть використовуватися до восьми прискорювачів AMD Instinct MI350P PCIe. Серед ключових особливостей:
- Нативна підтримка форматів MXFP6 і MXFP4 для високої пропускної здатності
- Прискорення обчислень завдяки підтримці sparsity для більшості популярних 8- і 16-бітних форматів
- Орієнтовна продуктивність 2299 TFLOPS і до 4600 пікових TFLOPS у режимі MXFP4
- Приблизно 144 ГБ пам’яті HBM3E з пропускною здатністю до 4 ТБ/с
- Відкрита екосистема з безкоштовними або недорогими інструментами розробки, що спрощують розгортання та допомагають зменшити операційні витрати.
AMD підкреслює, що Instinct MI350P PCIe створені на базі відкритих стандартів для забезпечення кросплатформної сумісності. Компанія продовжує просувати концепцію повністю відкритої AI-екосистеми та надання клієнтам більшого вибору у корпоративному середовищі.
AMD Instinct MI350P PCIe підтримують широкий спектр рівнів точності, які найчастіше використовуються в корпоративних AI-моделях. Вони забезпечують максимальну продуктивність і знижене використання пам’яті, що допомагає скоротити вимоги до живлення та охолодження.
AMD наголошує, що впровадження штучного інтелекту не обов’язково означає повну перебудову інфраструктури. Завдяки Instinct MI350P PCIe компанії можуть запускати більше моделей і обслуговувати більше користувачів у межах уже наявних дата-центрів.
Читайте також:
- ChatGPT втрачає ексклюзивність: Apple відкриває iOS 27 для сторонніх AI-моделей
- Кінець дефіциту потужностей: Anthropic збільшує ліміти Claude Code після угоди зі SpaceXAI