Microsoft meddelade att man arbetar med ett nytt "planetärisk" schemaläggningssystem för artificiell intelligens (AI) arbetsbelastningar som kallas Singularity.
Som förklarats i en vitbok publicerad av företaget är Singularity "en ny arbetsbelastningsmedveten schemaläggare som på ett transparent sätt kan förebygga och elastiskt skala djupinlärningsarbetsbelastningar för att säkerställa högt utnyttjande utan att påverka deras korrekthet eller prestanda på den globala skalan av AI-acceleratorer."
I icke-tekniska termer innebär detta att systemet är designat för att optimalt utnyttja företagets globala nätverk av serverhårdvara och därigenom minska kostnaderna för att köra AI-arbetsbelastningar. Kärnan i Singularitys värdeerbjudande är förmågan att ändra storlek på jobb mitt i strömmen och flytta dem mellan olika infrastrukturer runt om i världen.
Som dokumentet förklarar kan ett pågående jobb flyttas till ett annat kluster eller datacenter och återupptas precis där det slutade, och därigenom optimera kapacitetsutnyttjandet. Den kan också skalas upp eller ner elastiskt med olika typer och antal AI-acceleratorer. Skönheten i detta system, enligt orden Microsoft, eftersom det inte kräver något extra arbete från utvecklare, eftersom inga kodändringar krävs för att Singularity ska fungera.
Men för att göra detta möjligt, Microsoft var tvungen att hitta ett sätt att separera arbetsbelastningar från hårdvaruresurser. Den nya lösningen använder vad företaget kallar en "proxy-enhet" som fungerar i sitt eget adressutrymme och etablerar en separationsnivå som säkerställer smidig omfördelning av resurser.
Medan fokus i tidningen ligger på schemaläggningstjänsten, säger författarna att systemet är utformat för att skalas till en flotta av hundratusentals GPU:er och andra AI-acceleratorer.
Läs också:
- Bärbara datorer Microsoft Surface Laptop 5 kommer att få Intel- och AMD-processorer
- Windows 11 Pro kommer snart att kräva ett konto Microsoft