OpenAI представила свій перший спеціалізований процесор для інференсу, розроблений і створений у співпраці з Broadcom. Новий чип отримав назву Jalapeño та був спроєктований спеціально для потреб інференсних систем OpenAI. Компанія також повідомила, що до розробки процесора залучалися власні моделі штучного інтелекту, і на реалізацію Jalapeño, від початкового проектування до випуску на виробництво, було витрачено менш ніж рік.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Хоча чип наразі ще проходить тестування, за словами OpenAI, попередні результати демонструють значно кращу продуктивність на ват енергії порівняно з найсучаснішими доступними альтернативами.
Читайте також: AERONAUT – про все, що літає вище землі: авіація, БПЛА та дрони, ракети та космос
Про партнерство з Broadcom офіційно оголосили ще в жовтні, однак OpenAI вже давно мала план створювати власні чипи, щоб зменшити залежність від графічних процесорів NVIDIA. Таким саме шляхом вже йдуть Google та Amazon – вони також розробили власні спеціалізовані процесори для прискорення завдань машинного навчання. OpenAI розробила сам чип, а Broadcom відповідала за реалізацію на кремнії та мережеві технології.
Президент OpenAI Грег Брокман пояснив підхід компанії до створення процесорів в одному з випусків корпоративного подкасту після оголошення про співпрацю з Broadcom. “Ми добре розуміємо, що таке робочі навантаження, – заявив Брокман. – Ми дійсно шукали конкретні робочі навантаження, яким не приділяється достатньо уваги, [і задавалися питанням]: як ми можемо створити щось, що дозволить розширити межі можливого?”
Jalapeño спеціально розроблений для інференсу – процесу виконання вже навчених моделей штучного інтелекту у відповідь на запити користувачів. У повідомленні про запуск OpenAI наголосила на низькій вартості експлуатації чипа під час роботи з моделями для програмування в режимі реального часу.
Ймовірно, завдання, які потребують більше ресурсів, як-от попереднє навчання моделей, і надалі виконуватимуться на обладнанні NVIDIA. Проте навіть незначне скорочення витрат на інференс може позитивно вплинути на фінансові показники. Компанія планує розгорнути платформу Jalapeño у виробничих системах, починаючи з кінця 2026 року.
Оптимізація систем інференсу може стати одним з ключових факторів економіки штучного інтелекту в майбутньому. Очікується, що цей процес охоплюватиме всі рівні технологічного стеку. OpenAI вже створює агентні продукти, зокрема Codex, а також моделі, на яких вони працюють, і датацентри для їхнього запуску. Розробка власних спеціалізованих чипів дозволяє компанії ще глибше інтегрувати всі компоненти інфраструктури.
Читайте також:
- XR-гарнітури та окуляри вийдуть на новий рівень: Qualcomm представила чип Snapdragon Reality Elite
- OpenAI розширює можливості ChatGPT: Що вміє нова система запланованих завдань