Root NationНовиниНовини ITMicrosoft розкриває подробиці про свою інфраструктуру ШІ Singularity

Microsoft розкриває подробиці про свою інфраструктуру ШІ Singularity

-

Microsoft повідомила, що працює над новою системою планування «планетарного масштабу» для робочих навантажень штучного інтелекту (ШІ) під назвою Singularity.

Як пояснюється в технічній статті, опублікованій фірмою, Singularity — це «новий планувальник з урахуванням робочих навантажень, який може прозоро попереджати та еластично масштабувати робочі навантаження глибокого навчання для забезпечення високого ступеня використання, не впливаючи на їхню правильність чи продуктивність у глобальному масштабі прискорювачів ШІ».

Говорячи нетехнічною мовою, це означає, що система призначена для забезпечення оптимального використання глобальної мережі серверного обладнання компанії, тим самим скорочуючи витрати, пов’язані з виконанням робочих навантажень ШІ. В основі ціннісної пропозиції Singularity лежить можливість змінювати розмір робочих місць у середині потоку, а також переміщувати їх між різними інфраструктурами, розташованими по всьому світу.

Microsoft

Як пояснюється в документі, поточне завдання можна перенести в інший кластер або центр обробки даних і відновити точно з місця, де воно було зупинено, тим самим оптимізуючи використання ємності. Його також можна еластично масштабувати вгору або вниз, використовуючи різні типи і кількість прискорювачів штучного інтелекту. Принадність цієї системи, за словами Microsoft, у тому, що вона не вимагає додаткової роботи з боку розробників, оскільки для роботи Singularity не потрібні жодні модифікації коду.

Проте, щоб зробити це можливим, Microsoft довелося знайти спосіб відокремити робочі навантаження від апаратних ресурсів. У новому рішенні використовується те, що компанія називає «проксі-пристроєм», який працює у своєму власному адресному просторі та встановлює рівень поділу, що забезпечує плавний перерозподіл ресурсів.

Хоча основна увага у документі приділяється службі планування, автори заявляють, що система призначена для масштабування на парк із сотень тисяч графічних процесорів та інших прискорювачів ШІ.

Читайте також:

Підтримати автора
Sourcetechradar

Схожі статті

Підписатися
Сповістити про
guest
0 Comments
Вбудовані Відгуки
Переглянути всі коментарі