Ai2 以 GPU 時間預算取代優先級調度，解決公地悲劇
為什麼值得讀 此案例研究展示了時間預算等經濟激勵措施如何解決共享 GPU 叢集中資源閒置和優先級膨脹等技術調度問題。
Ai2 從有缺陷的優先級調度器轉向具有 GPU 時間預算的分層公平共享系統，提升了叢集佔用率和研究影響力。
標籤 · #gpu
Flash-dLLM：具備 I/O 感知能力的 KV 快取與平行解碼，實現快速且記憶體高效的擴散式大型語言模型
為什麼值得讀 使用基於擴散式語言模型的研發人員與工程師，可透過採用此無需訓練的加速框架，大幅降低推論延遲與記憶體開銷。
Flash-dLLM 引入 I/O 感知融合 KV 快取核心與平行解碼策略，在不依賴輔助模型的情況下加速擴散式大型語言模型。
GPU-CFR：為 GPU 上的 CFR 編譯遊戲樹
為什麼值得讀 此編譯方法消除了核心啟動開銷，使 GPU CFR 在大型遊戲中變得可行，而這些遊戲過去由 CPU 主導。
GPU-CFR 將遊戲樹編譯為靜態數據流，相較於先前的 GPU 實作可達 80 倍加速，並超越 CPU 基準。