Databricks：Qwen 3.8 27B 微调提速 6 倍
AI 总结
Databricks 在官方博客中介绍，通过系统性性能优化，其 AI Runtime 平台把 Qwen 3.8 27B 在固定数据集上的微调时间从 7 小时 44 分钟缩短至 1 小时 17 分钟，约 6 倍，基线吞吐为 9,396 tok/s。团队指出，初始配置下 GPU 平均利用率看似已达 98%，但该指标只反映 GPU “有没有在做事”，大量小算子使 CPU 无法及时向 GPU 下发任务，才是真正的瓶颈。他们先安装 flash-linear-attention 和 causal-conv1d 等融合算子，将时间降至 2 小时 5 分钟（3.7 倍），再用 1D packed 张量配合正确的 position_ids 减少批内填充浪费，最终实现 6 倍提升，示例代码已发布在 AI Runtime cookbook 中。
深度见解
对需要反复微调大模型的团队来说，这类不改硬件、只改训练栈的优化能直接压低算力成本。