Microsoft heeft aangekondigd dat het werkt aan een nieuw planningssysteem op planetaire schaal voor werklasten op het gebied van kunstmatige intelligentie (AI), genaamd Singularity.
Zoals uitgelegd in een witboek dat door het bedrijf is gepubliceerd, is Singularity "een nieuwe workloadbewuste planner die op transparante wijze deep learning-workloads kan voorkomen en elastisch kan schalen om een hoog gebruik te garanderen zonder hun correctheid of prestaties op de wereldwijde schaal van AI-versnellers aan te tasten." .
In niet-technische termen betekent dit dat het systeem is ontworpen om optimaal gebruik te maken van het wereldwijde netwerk van serverhardware van het bedrijf, waardoor de kosten voor het uitvoeren van AI-workloads worden verlaagd. De kern van de waardepropositie van Singularity is het vermogen om halverwege de stroom banen te verkleinen en te verplaatsen tussen verschillende infrastructuren over de hele wereld.
Zoals in het document wordt uitgelegd, kan een lopende taak naar een ander cluster of datacenter worden verplaatst en precies daar worden hervat waar deze was gebleven, waardoor de benutting van de capaciteit wordt geoptimaliseerd. Het kan ook elastisch omhoog of omlaag worden geschaald met behulp van verschillende typen en aantallen AI-versnellers. De schoonheid van dit systeem, volgens de woorden Microsoft, in die zin dat het geen extra werk van ontwikkelaars vereist, omdat er geen codewijzigingen nodig zijn om Singularity te laten werken.
Om dit echter mogelijk te maken, Microsoft moest een manier vinden om werklasten te scheiden van hardwarebronnen. De nieuwe oplossing maakt gebruik van wat het bedrijf een 'proxy-apparaat' noemt, dat in zijn eigen adresruimte werkt en een scheidingsniveau tot stand brengt dat een soepele herverdeling van bronnen garandeert.
Hoewel de focus van het artikel ligt op de planningsservice, zeggen de auteurs dat het systeem is ontworpen om te schalen naar een vloot van honderdduizenden GPU's en andere AI-versnellers.
Lees ook:
- notebooks Microsoft Surface Laptop 5 krijgt Intel- en AMD-processors
- Voor Windows 11 Pro is binnenkort een account vereist Microsoft