Microsoft bejelentette, hogy a mesterséges intelligencia (AI) munkaterheléseinek új "bolygói léptékű" ütemezési rendszerén dolgozik, a Singularity néven.
Amint azt a cég által közzétett fehér könyv kifejti, a Singularity "egy új, munkaterhelés-tudatos ütemező, amely átláthatóan megelőzi és rugalmasan skálázhatja a mély tanulási munkaterheléseket, hogy magas kihasználtságot biztosítson anélkül, hogy befolyásolná azok helyességét vagy teljesítményét az AI-gyorsítók globális skáláján."
Nem technikai értelemben ez azt jelenti, hogy a rendszert úgy alakították ki, hogy optimálisan kihasználja a vállalat globális szerverhardver-hálózatát, ezáltal csökkentve az AI-munkaterhelésekkel kapcsolatos költségeket. A Singularity értékajánlatának középpontjában a munkahelyek átméretezésének képessége áll, és a világ különböző pontjain található infrastruktúrák között mozgathatók.
Ahogy a dokumentum kifejti, egy futó feladat áthelyezhető egy másik fürtbe vagy adatközpontba, és pontosan ott folytatható, ahol abbamaradt, ezáltal optimalizálható a kapacitáskihasználás. Különböző típusú és számú mesterséges intelligenciagyorsítók segítségével rugalmasan skálázható fel vagy le. Ennek a rendszernek a szépsége a szavak szerint Microsoft, mivel nem igényel további munkát a fejlesztőktől, mivel a Singularity működéséhez nincs szükség kódmódosításra.
Ahhoz azonban, hogy ez lehetséges legyen, Microsoft meg kellett találnia a módját a munkaterhelések és a hardver erőforrások elkülönítésére. Az új megoldás a cég által "proxy eszköznek" nevezett eszközt használ, amely saját címterében működik, és olyan elválasztási szintet hoz létre, amely biztosítja az erőforrások zökkenőmentes újraelosztását.
Míg a cikk középpontjában az ütemezési szolgáltatás áll, a szerzők szerint a rendszert több százezer GPU-ból és más AI-gyorsítóból álló flottára tervezték.
Olvassa el még:
- notebookok Microsoft A Surface Laptop 5 Intel és AMD processzorokat kap
- A Windows 11 Pro rendszerhez hamarosan fiókra lesz szükség Microsoft