Hugging Face Blog·· 2026-08-18AI 评分40
同一 GPU 集群,利用率提高 33 个百分点:改变的是分配顺序
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
一种考虑约束的 GPU 分配器在相同硬件与工作负载下,相比 FIFO 调度器将利用率最多提高 33 个百分点。7 个基准场景的优先级加权产出均有提升,最高约 105%。该分配器按实时需求动态分配 GPU,让批处理任务利用需求低谷,并在整个调度周期内按优先级安排任务。
来源:Hugging Face Blog · huggingface.co