Microsoft обяви, че работи върху нова "планетарна" система за планиране на натоварвания с изкуствен интелект (AI), наречена Singularity.
Както е обяснено в бяла книга, публикувана от фирмата, Singularity е „нов планировчик, съобразен с работното натоварване, който може прозрачно да изпреварва и еластично да мащабира натоварванията за дълбоко обучение, за да осигури високо използване, без да засяга тяхната коректност или производителност в глобалния мащаб на AI ускорителите.“ .
В нетехнически термини това означава, че системата е проектирана да използва оптимално глобалната мрежа от сървърен хардуер на компанията, като по този начин намалява разходите, свързани с изпълнението на AI натоварвания. В основата на ценностното предложение на Singularity е способността да преоразмерявате работни места по време на потока и да ги премествате между различни инфраструктури, разположени по целия свят.
Както се обяснява в документа, работещо задание може да бъде преместено в друг клъстер или център за данни и възобновено точно там, където е спряло, като по този начин се оптимизира използването на капацитета. Той може също да бъде еластично мащабиран нагоре или надолу, като се използват различни видове и брой AI ускорители. Красотата на тази система, според думите Microsoft, тъй като не изисква допълнителна работа от разработчиците, тъй като не са необходими модификации на кода, за да работи Singularity.
Въпреки това, за да стане това възможно, Microsoft трябваше да намери начин да отдели натоварванията от хардуерните ресурси. Новото решение използва това, което компанията нарича "прокси устройство", което работи в собственото си адресно пространство и установява ниво на разделяне, което гарантира плавно преразпределение на ресурсите.
Въпреки че фокусът на статията е върху услугата за планиране, авторите казват, че системата е проектирана да се мащабира до флот от стотици хиляди GPU и други AI ускорители.
Прочетете също:
- Преносими компютри Microsoft Surface Laptop 5 ще получи процесори Intel и AMD
- Windows 11 Pro скоро ще изисква акаунт Microsoft