Microsoft повідомила, що працює над новою системою планування «планетарного масштабу» для робочих навантажень штучного інтелекту (ШІ) під назвою Singularity.
Як пояснюється в технічній статті, опублікованій фірмою, Singularity — це «новий планувальник з урахуванням робочих навантажень, який може прозоро попереджати та еластично масштабувати робочі навантаження глибокого навчання для забезпечення високого ступеня використання, не впливаючи на їхню правильність чи продуктивність у глобальному масштабі прискорювачів ШІ».
Говорячи нетехнічною мовою, це означає, що система призначена для забезпечення оптимального використання глобальної мережі серверного обладнання компанії, тим самим скорочуючи витрати, пов’язані з виконанням робочих навантажень ШІ. В основі ціннісної пропозиції Singularity лежить можливість змінювати розмір робочих місць у середині потоку, а також переміщувати їх між різними інфраструктурами, розташованими по всьому світу.
Як пояснюється в документі, поточне завдання можна перенести в інший кластер або центр обробки даних і відновити точно з місця, де воно було зупинено, тим самим оптимізуючи використання ємності. Його також можна еластично масштабувати вгору або вниз, використовуючи різні типи і кількість прискорювачів штучного інтелекту. Принадність цієї системи, за словами Microsoft, у тому, що вона не вимагає додаткової роботи з боку розробників, оскільки для роботи Singularity не потрібні жодні модифікації коду.
Проте, щоб зробити це можливим, Microsoft довелося знайти спосіб відокремити робочі навантаження від апаратних ресурсів. У новому рішенні використовується те, що компанія називає «проксі-пристроєм», який працює у своєму власному адресному просторі та встановлює рівень поділу, що забезпечує плавний перерозподіл ресурсів.
Хоча основна увага у документі приділяється службі планування, автори заявляють, що система призначена для масштабування на парк із сотень тисяч графічних процесорів та інших прискорювачів ШІ.
Читайте також:
- Ноутбуки Microsoft Surface Laptop 5 отримають процесори Intel та AMD
- Для Windows 11 Pro незабаром буде потрібен обліковий запис Microsoft