Новий AI-бенчмарк Geekbench може тестувати продуктивність CPU, GPU та NPU. Тест продуктивності виходить з бета-версії, оскільки NPU стають стандартним обладнанням в ПК.
Нейронні процесори (NPU) стають звичним явищем в чипах від Intel і AMD після декількох років, коли їх можна було знайти в основному в смартфонах і планшетах (і комп’ютерах Mac). Але оскільки все більше компаній прагнуть робити більш генеративну обробку AI, редагування зображень і чат-ботів локально на пристрої, а не в хмарі, можливість вимірювати продуктивність NPU стане важливішою для людей, які приймають рішення про покупку.
Зустрічайте Primate Labs, розробників Geekbench. Основний застосунок Geekbench призначений для тестування продуктивності CPU, а також продуктивності обчислень на GPU, але протягом останніх кількох років компанія експериментує з сайд-проєктом під назвою Geekbench ML (від англ. Machine Learning – «машинне навчання»), щоб протестувати продуктивність висновків на NPU. Тепер, коли ініціатива Microsoft Copilot+ починає працювати, а Intel, AMD, Qualcomm і Apple прагнуть підвищити продуктивність NPU, Primate Labs підвищує Geekbench ML до версії 1.0 і перейменовує його на Geekbench AI, що, ймовірно, допоможе їй осідлати хвилю ажіотажу, пов’язаного зі штучним інтелектом.
«Подібно до того, як робочі навантаження, прив’язані до CPU, відрізняються тим, як вони можуть використовувати переваги декількох ядер або потоків для масштабування продуктивності (що вимагає як одноядерних, так і багатоядерних показників у більшості відповідних тестів), робочі навантаження AI охоплюють цілий ряд рівнів точності, залежно від необхідного завдання і доступного обладнання», – написав Джон Пул з Primate Labs в блозі про оновлення. «Geekbench AI представляє підсумок ряду тестів робочих навантажень, виконаних з даними одинарної точності, половинної точності і квантованими даними, що охоплює різноманітність, яка використовується розробниками як з погляду точності, так і з погляду призначення в системах AI».
Окрім вимірювання швидкості, Geekbench AI також намагається виміряти точність, що важливо для робочих навантажень машинного навчання, які покладаються на отримання послідовних результатів (наприклад, ідентифікація та каталогізація людей та об’єктів у фотобібліотеці).
Geekbench AI підтримує кілька фреймворків AI: OpenVINO для Windows і Linux, ONNX для Windows, QNN від Qualcomm на комп’ютерах Arm PC на базі Snapdragon, CoreML від Apple на macOS і iOS, а також ряд фреймворків від окремих виробників на різних пристроях Android. Застосунок може запускати ці робочі навантаження на CPU, GPU або NPU принаймні якщо на вашому пристрої встановлено сумісний NPU.
На комп’ютерах з Windows, де підтримка NPU і API, таких як DirectML від Microsoft, все ще перебуває в процесі розробки, Geekbench AI підтримує NPU Intel і Qualcomm, але не AMD (поки що). «Ми сподіваємося додати підтримку AMD NPU в майбутній версії, як тільки отримаємо більше ясності щодо того, як найкраще ввімкнути їх від AMD», – сказав Пул в інтерв’ю Ars.
Geekbench AI доступний для Windows, macOS, Linux, iOS/iPadOS і Android. Він безкоштовний у використанні, хоча ліцензія Pro надає вам інструменти командного рядка, можливість запускати тест без завантаження результатів у браузер Geekbench Browser та деякі інші переваги. Хоча вчора вийшла версія 1.0, команда Primate Labs планує часто оновлювати застосунок для нових апаратних засобів, фреймворків і робочих навантажень за необхідності.
«AI – це не що інше, як швидка зміна, – продовжує Пул в анонсі, – тому очікуйте на нові випуски та оновлення в міру того, як змінюватимуться потреби та можливості AI на ринку».
Читайте також:
- Microsoft представила аналог AirDrop для обміну файлами між ПК і Android-смартфонами
- Google запускає голосового AI-асистента Gemini Live