Microsoft は、シンギュラリティと呼ばれる人工知能 (AI) ワークロード用の新しい「惑星規模」スケジューリング システムに取り組んでいることを発表しました。
同社が発行したホワイト ペーパーで説明されているように、Singularity は、「AI アクセラレータの世界規模での正確性やパフォーマンスに影響を与えることなく、ディープ ラーニング ワークロードを透過的にプリエンプトし、弾力的にスケーリングして高い使用率を確保できる、新しいワークロード対応スケジューラです。」
非技術的な用語で言えば、これはシステムが会社のサーバー ハードウェアのグローバル ネットワークを最適に利用するように設計されていることを意味し、それによって AI ワークロードの実行に関連するコストを削減します。 Singularity の価値提案の核心は、ジョブのサイズを途中で変更し、世界中にあるさまざまなインフラストラクチャ間でジョブを移動できることです。
ドキュメントで説明されているように、実行中のジョブを別のクラスターまたはデータセンターに移動し、中断した場所から正確に再開できるため、容量使用率が最適化されます。さまざまな種類と数の AI アクセラレータを使用して、弾力的にスケールアップまたはスケールダウンすることもできます。このシステムの美しさは言葉の通り MicrosoftSingularity が動作するためにコードを変更する必要がないため、開発者による追加の作業は必要ありません。
ただし、これを可能にするためには、 Microsoft ワークロードをハードウェア リソースから分離する方法を見つける必要がありました。新しいソリューションは、同社が「プロキシ デバイス」と呼ぶものを使用し、独自のアドレス空間で動作し、リソースのスムーズな再割り当てを保証するレベルの分離を確立します。
この論文はスケジューリング サービスに焦点を当てていますが、著者らは、このシステムは数十万の GPU やその他の AI アクセラレータのフリートに拡張できるように設計されていると述べています。
また読む：
- ラップトップ Microsoft Surface Laptop 5 には Intel および AMD プロセッサが搭載されます
- Windows 11 Pro ではまもなくアカウントが必要になります Microsoft