Ai2 重构 GPU 集群调度系统
AI 总结
Ai2 人工智能基础设施团队发文称，已用 GPU 时间预算、层级公平分配和时间切片合约取代原有的优先级调度器，以决定有限算力如何分配给研究项目。Ai2 管理数千块 NVIDIA H100、B200 和 B300 GPU，集群规模从 88 到 1024 块不等，服务约 150 名内部研究人员；提交的工作负载对 GPU 的需求常年是可用容量的 2 到 3 倍。文章称旧机制导致 GPU“占坑”、优先级膨胀和人工协调停机等问题，新合约要求工作负载声明最短运行时间，期间免于抢占，之后可被重新排队。Ai2 还表示该机制让人工介入的维修减少了 74%，但这一数字来自其自述；团队正在排查容量碎片化可能拉长大任务排队时间的问题。
深度见解
Ai2 表示，新机制把“每个研究项目该拿多少 GPU 时间”从逐案处理的运维任务，转变为透明的行政预算流程。
Impactful scheduling for GPU clusters
Building a cluster scheduler to prioritize high-impact research while maintaining full occupancy
October 9, 2026
Jeremy Tryba - Ai2
On the AI Infrastructure team at Ai2, we’re responsible for providing the institute’s GPU compute capacity, specifically targeting large, distributed training workloads. We think about this task as a pyramid of four metrics that build on each other.