© ROOT-NATION.com - Використання цього контенту на інших сайтах дозволено лише за умови розміщення зворотного посилання на оригінальну сторінку.
Великі мовні моделі (LLM) потребують значних обсягів пам’яті. Щоб збільшити її обсяги, користувачі AI-застосунків часто використовують багатопроцесорні системи. Проте навіть цей підхід має обмеження. Іноді графічний процесор (GPU) передає обчислення центральному процесору (CPU), і тоді на перший план виходить продуктивність кешу ЦП та оперативної пам’яті (DRAM). Відповідно, для продуктивності AI-застосунків важливим є весь ланцюг взаємодії GPU-CPU-DRAM, що відкриває можливості для оптимізації.
У лабораторіях ASUS R&D це було продемонстровано на нових процесорах AMD Ryzen. Не так давно AMD представила Ryzen 9 9950X3D та Ryzen 9 9900X3D з технологією AMD 3D V-Cache, що піднімає можливості лінійки на новий рівень. Під час масштабних тестів ASUS виявила набір налаштувань, які суттєво впливають на ефективність у AI-сценаріях. Результати реалізували у BIOS-функції AI Cache Boost. У робочих завданнях із LLM вона забезпечує приріст продуктивності до 12,75%.
Читайте також: ChatGPT-5 від OpenAI: Що може нова модель штучного інтелекту
ЗМІСТ СТАТТІ:
Активація AI Cache Boost
Функція доступна для материнських плат ASUS серії AMD 800 у поєднанні з процесорами AMD Ryzen 9000 Granite Ridge. Увімкнення виконується у BIOS (розділ Extreme Tweaker). Серед оптимізацій – підвищення частоти Infinity Fabric clock (FCLK) до 2100 МГц. Це збільшує пропускну здатність між ядрами, кешем та модулями пам’яті, що особливо важливо для роботи з великими LLM.
Для користувачів, які поєднують роботу AI-застосунків з іграми, AI Cache Boost практично не впливає на геймплей. Для додаткової стабільності частоту FCLK можна знизити вручну.
Продуктивності з AI Cache Boost
Конфігурація для тестів: плата ROG Crosshair X870E Hero, відеокарта NVIDIA GeForce RTX 5090 та 2×16 ГБ DDR5 RAM. Було протестовано Ryzen 9 9950X3D, 9900X3D і 9800X3D. У Geekbench AI (ONNX DirectML) приріст склав 4-8% залежно від моделі. Для RTX 4090 найвищий приріст – до 7,57% – показав Ryzen 7 9800X3D. У UL Procyon AI Computer Vision Benchmark цей же процесор досяг +12,75%.
Читайте також: Пам’ять VRAM: Що це таке і чи справді потрібно більше 8 ГБ
Turbo Game Mode
ASUS також протестувала поєднання AI Cache Boost із Turbo Game Mode. Останній оптимізує систему двома способами:
вимикає другий CCD (Core Complex Die) – актуально для процесорів із двома CCD. Це дозволяє зменшити затримки в застосунках, які не використовують усі ядра
вимикає SMT (Simultaneous Multithreading) – одночасне багатопотокування. У деяких сценаріях вимкнення SMT дозволяє підвищити ефективність у навантаженнях, які не потребують великої кількості потоків.
Ці кроки знижують затримки у навантаженнях, де не потрібна максимальна кількість потоків. Turbo Game Mode варто вмикати лише вибірково, оскільки він зменшує загальну багатопотокову продуктивність. У комбінації з AI Cache Boost Ryzen 9 9950X3D демонстрував приріст до 19,85% у порівнянні з базовими налаштуваннями.
Підсумки
Нові процесори AMD Ryzen 9 9950X3D та 9900X3D дозволяють відчутно розширити можливості для любителів високої продуктивності. Ці чипи, з 32 і 24 потоками відповідно, поєднують потужну багатопотокову обробку з перевагами технології AMD 3D V-Cache.
Материнські плати ASUS з чипсетами AMD 800-серії дозволяють повністю розкрити можливості цих процесорів завдяки спеціальним BIOS-оптимізаціям. Особливо ефективною є функція AI Cache Boost – ефективний інструмент для прискорення роботи з AI-застосунками, включно з великими мовними моделями.
Для повноцінного використання нових AMD процесорів рекомендуємо розглянути всю лінійку материнських плат ASUS AM5 – від топових X870E і X870 до бюджетних B850 та B840.
Також цікаво:
- Огляд Motorola Moto G86: Смартфон, що декласує конкурентів
- Огляд аксесуарів JSAUX для портативних консолей, частина 2: Наплічник, док-станція з M.2 SSD та адаптери