Нова архітектура AMD XDNA дозволить максимально ефективно запускати алгоритми штучного інтелекта на майбутніх процесорах Ryzen.
Останнім часом важко не помітити, що AMD розкручує XDNA та знамениті мікропроцесори NPU, які тепер знаходяться всередині Ryzen. Це й зрозуміло – компанія хоче знайти своє місце в цій ніші. Адже ШІ тепер з’являється на всіх пристроях, в тому числі й на ПК, планшетах та ноутбуках.
Якщо нам вже було достатньо RDNA та Zen як архітектури для процесорів, то в 2023 році народилася ще одна, під назвою XDNA. В AMD вирішили, що слід розпочати нові розробки архітектури для графічних процесорів, центральних процесорів і NPU, які будуть максимально ефективно запускати алгоритми штучного інтелекта на майбутніх процесорах Ryzen. Фактично ми бачимо, що ці компоненти будуть розміщені на одному чипі. Давайте більш детально розбиратись з новою архітектурою XDNA для процесорів Ryzen від AMD.
Читайте також: Все про чип Neuralink Telepathy: що це таке і як працює
Що таке AMD XDNA?
AMD XDNA – це архітектура, що підтримує NPU процесорів AMD Ryzen, чип яких відповідає за конкретні завдання штучного інтелекту. AMD визначає його як “архітектуру NPU просторового потоку даних, що складається з мозаїчного масиву механізмів штучного інтелекту”. Як і у випадку з Zen або RDNA, тут теж відбувається розвиток: вже маємо XDNA першого покоління, а зовсім недавно випустили оновлення архітектури XDNA 2.
Основою роботи нейронних мереж є перетікання даних від одного шару нейронів до іншого. Припустимо, є кілька шарів нейронів, де кожна “точка” виконує якусь обчислювальну функцію – наприклад, матричне множення або згортку, а потім дані передаються наступному нейрону для обробки. Існує досить велика послідовна залежність від рівня до рівня. Щоб слідувати цьому, архітектура рушія Ryzen AI працює як адаптивна архітектура потоку даних, де може фактично використовувати великий масив обчислень та ефективно передавати дані від масиву до масиву. Це можна зробити, не звертаючись до зовнішньої пам’яті або навіть до кешу, який часто споживає більше енергії і призводить до більш тривалої затримки.
Компанія AMD розробила нову архітектуру XDNA з метою забезпечити максимальну щільність обчислень без витрачання великої кількості енергії та ресурсів. В архітектурі XDNA бачимо, що механізми IA чи AI Engine організовані у вигляді мозаїчної матриці.
Сама мозаїка складається з наступних елементів:
- Векторний процесор VLIW
- Скалярний процесор RISC
- Локальна пам’ять для зберігання даних, активацій та коефіцієнтів
- Місцеві дані
Звичайна архітектура зазвичай використовує кеш для отримання даних, що повторюються, але у випадку XDNA це не так. У даному випадку нейронний процесор NPU використовує власну пам’ять та власний потік даних для роботи з низьким енергоспоживанням, оскільки звернення до кешу збільшує енергоспоживання процесора.
Векторні процесори, які ми бачимо у кожному фрагменті, чи мозаїці, використовуються для програм машинного навчання та розширеної обробки сигналів. Вони гарантують, що кожен механізм штучного інтелекту працюватиме на частоті понад 1,3 ГГц. Саме це забезпечує ефективні функції, продуктивність та низьку затримку. Простими словами, продуктивність зростатиме, а енергоспоживання процесорів залишиться на низькому рівні.
Скалярний процесор — це простий клас мікропроцесорів. Даний процесор обробляє один елемент даних за одну інструкцію (типовими елементами даних можуть бути цілі числа, або числа з рухомою комою). У векторних процесорах, на відміну від скалярних, одна інструкція працює з декількома елементами даних. У новій архітектурі AMD XDNA скалярний процесор RISC буде використовуватися для режимів з’єднання та керування типами даних.
Дебют нової архітектури AMD XDNA вже відбувся з Ryzen 7040, який був представлений у січні 2023 року.
Моделі цієї лінійки виготовляються за технологічними нормами 4 нм FinFET, використовують до 8 обчислювальних ядер з архітектурою Zen 4, а також отримали доволі потужну інтегровану графіку RDNA3. Крім того, саме AMD Ryzen 7040 стали першими процесорами виробника з апаратним блоком прискорення обчислень з алгоритмами, пов’язаними зі штучним інтелектом. ШІ-рушій отримав назву Ryzen AI і заснований на масштабованій архітектурі XDNA.
Серія мобільних чипів Phoenix на старті включають три моделі – 8-ядерні Ryzen 9 7940HS (8/16; 4,0/5,2 ГГц), Ryzen 7 7840HS (8/16; 3,8/5,1 ГГц) та 6-ядерний Ryzen 5 7640HS (6/12; 4,3/5,0 ГГц). Всі чипи мають кеш-буфер L3 місткістю 16 МБ та L2 з розрахунку по 1 МБ на кожне ядро. Заданий TDP всіх CPU конфігурується в межах 35-54 Вт.
Тут використовуються напрацювання компанії Xilinx, придбання якої завершилось на початку минулого року та обійшлось AMD у майже $50 млрд. Тож інтегрований блок Ryzen AI можна вважати першим практичним напрацюванням підсиленої команди для споживчих рішень.
Читайте також: Ми всі станемо голограмами? Розвиток голографії від теорії до практики
Переваги XDNA
У самій компанії AMD акцентують увагу на чотирьох перевагах нової архітектури XDNA. Насамперед, завдяки новій архітектурі, NPU програмується та компілюється за лічені хвилини. Крім того, це полегшує робочий процес для розробників машинного навчання і робить обробку даних для ШІ більш ефективною.
Варто також розуміти, що існує детерміністична перевага, тобто більш тісний взаємозв’язок та взаємна визначеність всіх явищ та процесів. Розробники кажуть, що самі механізми прямого доступу до пам’яті (DMA) виділяють пам’ять даних та інструкцій, використовуючи міжкристальне з’єднання. Це дасть можливість процесору більш ефективно працювати.
Сама архітектура працює більш ефективно, бо нейропроцесор NPU забезпечує велику щільність обчислень та чудову енергоефективність. А саме наявність нейропроцесора NPU буде основою становлення нової Windows 12. Тобто, AMD випускає нову архітектуру для процесорів Ryzen на перспективу.
Найбільшою перевагою нової архітектури є її масштабованість. Оскільки 2D-матриці, що складаються з механізмів штучного інтелекту, дозволяють масштабувати від десятків до сотень плиток на одному пристрої. Це дійсно величезний крок у продуктивності процесора.
Також цікаво: Про квантові комп’ютери простими словами
Але як AMD удалося реалізувати це за такий короткий період?
Відповідь на це досить проста: придбання компанії Xilinx. Нагадаю, що в лютому 2022 року AMD завершила придбання американської компанії Xilinx за шалені $50 млрд. Це найбільша в історії угода у сфері мікросхем. Завдяки саме цьому придбанню AMD виходить за межі компетенції своїх центральних і графічних процесорів за допомогою великого портфоліо перепрограмованих чипів.
По суті AMD XDNA буде IP-архітектурою Xilinx для структур FPGA для прискорення програм штучного інтелекту. Технологія вже існувала, просто AMD хотіла реалізувати її у портативних процесорах чи масових APU.
В AMD поки що тільки розповідають про нові Ryzen 8040 з архітектурою XDNA 3, адже й досі їх не представили. Вони ще не надійшли на ринок, і ми не бачили таблиць з різними моделями чи опціями. Більше того, вони навіть не рекламуються на офіційному сайті компанії.
Останнім продуктом AMD на ринку є Ryzen 7040, в якому ми бачимо варіанти «HS» та деякі винятки «HX». Моделі HS поєднують ефективність і продуктивність, і історично ми бачили H або HX для максимальної потужності.
AMD змінила курс щодо своєї лінійки портативних процесорів, виключивши H і HX, залишивши місце лише для HS і U. Більше того, бренд практично не випускає AMD Ryzen 3, максимум, ми бачимо тільки чип під назвою AMD Ryzen 3 7320U, не більше того!
За технічними характеристиками нові процесори AMD Ryzen 8040 (Hawk Point) близькі до актуальних чипів Ryzen 7040 (Phoenix). Вони теж отримають до восьми ядер Zen 4 з підтримкою технології SMT та boost-частотою до 5,2 ГГц, а також графічний блок Radeon 740M/760M/780M на архітектурі RDNA 3-го покоління.
За чутками, всього компанія підготувала три окремих лінійки Ryzen 8040, які відрізняються за рівнем TDP: Ryzen 8x45HS (35-54 Вт), Ryzen 8x40HS (20-30 Вт) та Ryzen 8x40U (15-30 Вт). Цікаво, що молодші моделі позбавлені блоку NPU для ШІ-операцій та, ймовірно, побудовані на оновленому кристалі Phoenix2. Сам блок NPU, якщо вірити AMD, було покращено і тепер він забезпечує на 40% більшу продуктивність.
Ліза Су, президент компанії AMD, пообіцяла, що у продаж перші пристрої на процесорах AMD Ryzen 8040 (Hawk Point) надійдуть до кінця першого кварталу 2024 року.
Також цікаво: Тераформування Марса: чи може Червона планета перетворитися на нову Землю?
Альтернатива AMD XDNA: Low Power Island від Intel
У той час як AMD фокусується на своєму NPU, що включає всі елементи, Intel воліє розділити чип на 4 частини (графіка, SoC, введення-виведення і обчислення). Та частина, яка нас цікавить, і яка може конкурувати з AMD XDNA, знаходиться всередині плитки IO і називається Low Power Island.
На Low Power Island ми знаходимо наступне:
- Нейропроцесор NPU
- Контролер пам’яті
- Два електронних ядра малої потужності
- Інфраструктурний процесор IPU
- Мультимедійний рушій
- Екранний рушій
- Мікропроцесор PUNIT
- Масштабуюча тканина
Мало того, Intel включає в мозаїку SoC так званий E-Cores Low Power Island (LP), що має на меті економію енергії. Ці ядра допомагають директору потоків виконувати невибагливі процеси та фонові завдання.
Ця функція є новою для портативних процесорів Intel Core Ultra, які також були представлені в грудні 2023 року. Ці чипи ми можемо знайти в магазинах, і ціна у них, так би мовити, не дуже популярна. Та гаразд, схоже “партія штучного інтелекту” збирається підняти ціну на чипи.
Також цікаво: Всесвіт: Найнезвичайніші космічні об’єкти
А AMD XDNA 2?
Думаю, цікаво згадати, що всього 2 місяці тому AMD анонсувала XDNA 2. Чи могли ви уявити, що в цьому ж році з’являться Ryzen із Zen 5 та Zen 6? Мабуть щось подібне станеться і з AMD Ryzen 8040 та 9040.
У 2024 році AMD Ryzen 8040 ще не з’явився. Але на тому ж гала-вечорі Advancing AI розробники AMD вже анонсували нові процесори Strix Point на базі Zen 5, які будуть поставлятися з новою архітектурою XDNA 2. Якщо нам не вдалося протестувати AMD Ryzen Hawk Point, уявіть, що ми можемо сказати вам про XDNA 2: нічого. Так, AMD Ryzen 7040 оснащений XDNA, але з меншою кількістю NPU, ніж у Ryzen 8040, тому ми не можемо навіть зробити якісь припущення, поки не з’являться нові процесори.
На презентації розробники стверджували, що процесор на новій архітектурі у 3 рази потужніший за XDNA, але ми не знаємо, наскільки потужна згадана архітектура NPU, тому нам залишається тільки вірити їм на слово. Я сподіваюся, що AMD не завищує цифри з маркетинговою ціллю, тому що вони й раніше намагалися відібрати корону у Intel, але навіть близько не наблизилися до цього сектору. На робочому столі все було інакше.
Читайте також: Космічний телескоп Джеймса Вебба: 10 цілей для спостереження
Чи можна використовувати нову архітектуру XDNA для ігор?
Поки не ясно, але якщо вони не оголосили про це з великою помпою… то, схоже, ми не зможемо використовувати нову архітектуру XDNA для ігор. Інакше про це б завили зразу, враховуючи намагання AMD підкорити світ геймінгу. Все націлено на сферу бізнесу та програми машинного навчання AI, якщо тільки графічний двигун не має штучного інтелекту для своєї роботи. Там поле застосування дуже велике у наш час.
Можливо, з часом все зміниться. Будемо чекати нових подробиць про XDNA і обов’язково про все вам розкажемо.
Читайте також: