AMD представила оновлений драйвер, що входить до складу Adrenalin Edition 25.8.1, який дозволяє запускати локальні великі мовні моделі (LLM) до 128B на операційній системі Windows з використанням процесора Ryzen AI Max+ 395 і 128 ГБ оперативної пам’яті. У компанії зазначили, що це рішення стане першим у світі серед споживчих процесорів, здатних працювати з такими масштабними моделями. Драйвер також включає підтримку Meta Llama 4 Scout до 109B з повною обробкою зображень і реалізацією протоколу MCP через llama.cpp і Vulkan.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Важливу роль у цьому досягненні відіграла вдосконалення змінної VGM від AMD, що дозволяє перерозподіляти системну оперативну пам’ять для вбудованої графіки. Завдяки цьому iGPU може використовувати до 96 ГБ виділеної графічної пам’яті, що дає змогу запускати моделі великого масштабу – 128B у 4-бітній архітектурі або 32B у FP16. Причому запуск відбуватиметься локально без дискретного графічного процесора.
Оновлений драйвер Adrenalin забезпечує кілька важливих переваг:
- Підтримку першого комп’ютера Windows з AI для запуску Llama 4 Scout до 109B локально з повноцінною обробкою зображень та використанням інструментів, необхідних для практичного застосування AI
- Підтримку контекстного вікна до 256000 токенів для обробки великих документів, реалізації багатоступеневих логічних міркувань і забезпечення ефективної роботи інтелектуальних агентів
- Гнучкість у запуску широкого спектра моделей – від простих помічників до просунутих рішень для програмування, візуального аналізу та роботи зі складними завданнями.
Читайте також:
- AMD Ryzen Threadripper: як скласти робочу станцію на базі нових процесорів
- AMD і Stability AI створили першу AI-модель для локального запуску на XDNA 2