Ai2 以 GPU 时间预算取代优先级调度，解决公地悲剧
为什么值得读 本案例研究展示了时间预算等经济激励措施如何解决共享 GPU 集群中的资源占用和优先级膨胀等技术调度问题。
Ai2 从有缺陷的基于优先级的调度器转向具有 GPU 时间预算的分层公平共享系统，提升了集群占用率和研究影响力。
标签 · #gpu
Flash-dLLM：面向快速、内存高效扩散语言模型的I/O感知KV缓存与并行解码
为什么值得读 使用基于扩散的语言模型的研究人员和工程师，通过采用此免训练加速框架，可显著降低推理延迟和内存开销。
Flash-dLLM引入I/O感知融合KV缓存内核与并行解码策略，无需辅助模型即可加速扩散语言模型。
GPU-CFR：为GPU编译博弈树以实现80倍更快的CFR
为什么值得读 这种编译方法消除了内核启动开销，使得GPU CFR在CPU此前占据主导地位的大规模游戏中变得可行。
GPU-CFR将博弈树编译为静态数据流，相比之前的GPU实现加速最高达80倍，并优于CPU基线。