Корпорація Microsoft презентувала нову модель штучного інтелекту під назвою Mu, яка забезпечує роботу AI-агентів у розділі «Налаштування» операційної системи Windows 11.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Mu – це свіжа розробка Microsoft у сфері штучного інтелекту, яка здатна функціонувати безпосередньо на пристрої користувача. Минулого тижня компанія з Редмонда випустила бета-оновлення для Windows 11, де з’явилась функція AI-агентів у розділі «Налаштування». Ця можливість дозволяє користувачам простими словами описувати бажану дію в меню «Налаштування», а вбудовані AI-агенти автоматично переходять до відповідної опції або самостійно виконують потрібну задачу. Microsoft офіційно підтвердила, що ця функція базується саме на основі компактної мовної моделі Mu (SLM).
У своєму офіційному блозі компанія докладно розповіла про нову AI-модель. Відомо, що наразі Mu повністю інтегрована в сумісні ПК серії Copilot+ і функціонує завдяки нейронному процесору (NPU), яким оснащені ці пристрої. В Microsoft акцентували на тому, що модель була спеціально оптимізована для забезпечення мінімальних затримок. За словами розробників, Mu здатна генерувати понад 100 токенів щосекунди, що відповідає високим вимогам до швидкодії AI-агентів у середовищі «Налаштування».
Структура Mu побудована на архітектурі трансформерного типу з кодером і декодером та налічує 330 мільйонів параметрів. Завдяки такій будові SLM-модель ідеально підходить для компактного локального розгортання. У цій архітектурі кодер спершу обробляє вхідні дані, перетворюючи їх у фіксоване представлення, яке потім аналізується декодером для створення відповідного вихідного сигналу.
У компанії також підкреслили, що вибір саме такої архітектури був обумовлений прагненням до максимальної ефективності та оптимізації – це особливо важливо при роботі з обмеженою пропускною здатністю обчислювальних систем. Щоб модель відповідала можливостям нейропроцесорів, у Microsoft додатково підібрали оптимальні розміри шарів та пропорційно розподілили параметри між кодером і декодером.
Mu створено на основі моделей Phi, також розроблених у Microsoft, а її тренування здійснювалось із використанням графічних процесорів A100 у хмарному середовищі Azure Machine Learning. Як правило, дистильовані версії моделей демонструють вищу продуктивність, ніж оригінальні. Компанія змогла ще більше посилити ефективність Mu, інтегрувавши її з набором спеціальних даних для виконання конкретних завдань і застосувавши методику низькорангової адаптації (Low-rank adaptation, LoRA). Цікавим є той факт, що Microsoft стверджує: хоча Mu вдесятеро менша за обсягом у порівнянні з Phi-3.5-mini, вона демонструє зіставний рівень продуктивності.
Щоб AI-агенти могли ефективно працювати в середовищі «Налаштування» Windows, інженерам Microsoft довелося вирішити ще одну важливу задачу: навчити модель розпізнавати і коректно обробляти токени як на вході, так і на виході при роботі із сотнями параметрів системи. Для цього потрібна була не лише велика база знань, але й мінімальні затримки, які дозволяли б виконувати дії практично миттєво.
У зв’язку з цим Microsoft значно розширила обсяг навчальних даних для Mu – замість початкових 50 налаштувань модель опанувала вже сотні різноманітних параметрів. Для покращення результатів застосовувалися такі підходи, як синтетичне маркування та введення шуму – це дозволяло навчитись краще розуміти типові запити користувачів. У результаті тренувань на понад 3,6 мільйона прикладів модель стала здатною видавати результат менш ніж за пів секунди, запевняють у компанії.
&pp=ygUMTWljcm9zb2Z0IGFp
Проте однією з виявлених проблем став той факт, що Mu демонструє кращі результати на запитах, сформульованих повними, докладними реченнями, тоді як короткі чи нечіткі запити модель обробляє гірше. Наприклад, фраза «знизити яскравість екрана вночі» дає Mu значно більше контексту для коректного виконання дії, ніж просте слово «яскравість». Щоб компенсувати цей недолік, Microsoft зберегла у Windows можливість показу традиційних результатів пошуку за ключовими словами у випадках занадто розмитих запитів.
Ще однією особливістю, яку виявили розробники, став мовний розрив у ситуаціях, коли одна команда може стосуватися кількох різних параметрів. Наприклад, запит «збільшити яскравість» може бути спрямований як на вбудований екран ноутбука, так і на зовнішній монітор. Щоб уникнути непорозумінь, модель наразі фокусується насамперед на найчастіше використовуваних налаштуваннях. Microsoft зазначила, що ці аспекти продовжують доопрацьовуватись і вдосконалюватись.
Читайте також:
- Майбутнє співпраці OpenAI і Microsoft під питанням через суперечки щодо AI
- Microsoft, скільки ще стажери вирішуватимуть, якою має бути Windows?