Microsoft kunngjorde at det jobber med et nytt "planetarisk" planleggingssystem for kunstig intelligens (AI) arbeidsbelastninger kalt Singularity.
Som forklart i en hvitbok publisert av firmaet, er Singularity "en ny arbeidsbelastningsbevisst planlegger som på en transparent måte kan forebygge og elastisk skalere dype læringsarbeidsmengder for å sikre høy utnyttelse uten å påvirke deres korrekthet eller ytelse på global skala av AI-akseleratorer."
I ikke-tekniske termer betyr dette at systemet er designet for å utnytte selskapets globale nettverk av servermaskinvare optimalt, og dermed redusere kostnadene forbundet med å kjøre AI-arbeidsbelastninger. Kjernen i Singularitys verdiforslag er muligheten til å endre størrelsen på jobber midtveis og flytte dem mellom ulike infrastrukturer rundt om i verden.
Som dokumentet forklarer, kan en løpende jobb flyttes til en annen klynge eller datasenter og gjenopptas akkurat der den slapp, og dermed optimalisere kapasitetsutnyttelsen. Den kan også skaleres elastisk opp eller ned ved hjelp av forskjellige typer og antall AI-akseleratorer. Skjønnheten i dette systemet, ifølge ordene Microsoft, ved at det ikke krever noe ekstra arbeid fra utviklere, siden det ikke kreves kodemodifikasjoner for at Singularity skal fungere.
Men for å gjøre dette mulig, Microsoft måtte finne en måte å skille arbeidsbelastninger fra maskinvareressurser. Den nye løsningen bruker det selskapet kaller en «proxy-enhet» som opererer i sitt eget adresserom og etablerer et separasjonsnivå som sikrer jevn omfordeling av ressurser.
Mens fokuset i artikkelen er på planleggingstjenesten, sier forfatterne at systemet er designet for å skalere til en flåte på hundretusenvis av GPUer og andre AI-akseleratorer.
Les også:
- notatbøker Microsoft Surface Laptop 5 vil motta Intel- og AMD-prosessorer
- Windows 11 Pro vil snart kreve en konto Microsoft