2026-10-10 — views
Ai2、優先度スケジューリングに代えてGPU時間予算を導入し『共有地の悲劇』を解決
読む理由 このケーススタディは、時間予算といった経済的インセンティブが、共有GPUクラスターにおけるリソースの占有や優先度のインフレといった技術的なスケジューリング問題をいかに解決できるかを示している。
Ai2は、優先度ベースの flawed なスケジューラから、GPU時間予算と階層型フェアシェア方式を採用するシステムへ移行し、クラスターの占有率向上と研究への影響を改善した。
スケジューリングピラミッドと従来の課題
Ai2のAIインフラストラクチャチームは、88〜1024台のGPUからなるクラスターに、NVIDIA H100、B200、B300を数千台管理している。これらのリソースは、大規模分散トレーニング、ロボティクス強化学習、科学的エージェントユースケースに取り組む約150人の内部研究者に提供されている。チームは、可用性、占有率、インパクト、利用率という指標のピラミッドを通じてクラスター管理を捉えている。歴史的には、ワークロードのプリエンプション（割り込み）からの免除を可能にする優先度ベースのスケジューラに依存していた。このアプローチは、GPUの占有（スクワッティング）といった予測可能な病理を引き起こした。これは、ユーザーが将来のデバッグのためにリソースを確保するために、何もしないワークロードを駐車する行為を指す。さらに、すべてのワークロードがHIGH優先度を採用したため、優先度のインフレが発生し、低優先度のタスクが餓死状態に陥った。エンジニアは、メンテナンス中にプリエンプション不可能なワークロードのシャットダウンを交渉するために多額の時間を費やしていた。
独占から時間予算へ
従来のシステムは、個々のユーザーがグローバルなパフォーマンスを犠牲にして自身の成果を最大化するという『共有地の悲劇』を生み出した。これを修正するための初期の試みには、重要なプロジェクトにGPUの独占権を割り当てることが含まれていたが、これは研究ニーズの季節性によりアイドル時間を引き起こした。これを解決するため、Ai2は優先度システムを、GPU時間予算と階層型フェアシェア割り当てに基づくモデルに置き換えた。物理的なハードウェアを割り当てるのではなく、システムはGPU時間の一部を割り当てる。これにより、ケースバイケースの運用タスクから、透明な管理予算策定プロセスへ議論がシフトする。マネージャーは、戦略的なインパクトに基づいてプロジェクトや研究者にGPU時間を割り当てるため、リーダーシップは投資家のように考えることができる。GPU時間のすべてのリクエストは、予算によって資金提供されなければならず、そうでなければプリエンプションから保護されない。これにより、スケジューラを操作するコストが、より大きな予算を誠実に主張するコストよりも高くなる。
階層型フェアシェアの実装
予算策定ツールと組み合わせて、Ai2は階層型フェアシェアスケジューラを実装した。このシステムは研究プログラムの構造を反映しており、重みは静的なクォータではなく、マネージャーによって設定された予算によって決定される。スケジューラは、デフォルトで7日間のスライディングウィンドウ（過去遡及期間）にわたって占有率を追跡する。ワークロードを、過剰に利用されている割り当てよりも、未利用の割り当てから優先してソートし、グループが積極的にワークロードを提出している限り、毎週割り当てられたGPU時間を受け取れるようにする。このアプローチにより、チームは未使用のキャパシティがある場合、割り当て制限を超えてバースト（急増）することができ、それ以外では失われていたコンピューティングリソースを回収できる。新しいシステムは、バースト性の高いワークロードを効率的に処理することで、クラスターに実質的に30%分の追加コンピューティングキャパシティがあるように感じさせたと報告されている。
実装ノート
共有コンピューティングリソースを管理する開発者は、静的なハードウェア割り当てではなく時間ベースの予算を実装することを検討し、個人のインセンティブを組織の目標と一致させるべきである。優先度のインフレやリソースの占有に注意を払い、これらが公平シェアモデルと経済的制約を必要とする一般的な指標であることを認識してほしい。