Microsoft objavio je da radi na novom sustavu raspoređivanja "planetarne razine" za radna opterećenja umjetne inteligencije (AI) pod nazivom Singularity.
Kao što je objašnjeno u bijeloj knjizi koju je objavila tvrtka, Singularity je "novi planer svjestan radnog opterećenja koji može transparentno unaprijediti i elastično skalirati radna opterećenja dubokog učenja kako bi se osigurala visoka iskorištenost bez utjecaja na njihovu ispravnost ili performanse na globalnoj razini AI akceleratora."
U netehničkom smislu, to znači da je sustav dizajniran za optimalno korištenje globalne mreže poslužiteljskog hardvera tvrtke, čime se smanjuju troškovi povezani s izvođenjem AI radnih opterećenja. U srži ponude vrijednosti Singularityja je mogućnost promjene veličine poslova u tijeku i njihovo premještanje između različitih infrastruktura diljem svijeta.
Kao što je objašnjeno u dokumentu, tekući posao može se premjestiti u drugi klaster ili podatkovni centar i nastaviti točno tamo gdje je stao, čime se optimizira iskorištenost kapaciteta. Također se može elastično povećavati ili smanjivati pomoću različitih vrsta i broja AI akceleratora. Ljepota ovog sustava, prema riječima Microsoft, utoliko što ne zahtijeva dodatni rad programera, budući da nisu potrebne modifikacije koda da bi Singularity radio.
Međutim, da bi to bilo moguće, Microsoft morao je pronaći način za odvajanje radnih opterećenja od hardverskih resursa. Novo rješenje koristi ono što tvrtka naziva "proxy uređaj" koji radi u vlastitom adresnom prostoru i uspostavlja razinu odvajanja koja osigurava glatku preraspodjelu resursa.
Iako je fokus rada na usluzi zakazivanja, autori kažu da je sustav dizajniran za skaliranje na flotu od stotina tisuća GPU-ova i drugih AI akceleratora.
Pročitajte također:
- Prijenosna računala Microsoft Surface Laptop 5 dobit će Intel i AMD procesore
- Windows 11 Pro uskoro će zahtijevati račun Microsoft