创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

PyTorch 2.15 MPS 支持 FP8,Mac 上 LLM 解码提速

AI 总结

Hugging Face 的 PyTorch 团队于 2026 年 10 月 20 日发布博客,介绍 PyTorch 2.15 中 MPS 后端的改进,包括在 Mac 后端支持 float8_e4m3fn 存储的 FP8 以及缩放矩阵乘法。团队给出了自测数据:MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s;Wan2.2 视频 VAE 解码峰值内存从 270 GiB 降至约 8 GiB。文章还称 MPS 现在要求 macOS 15 及以上,PyTorch 2.15 要求 Python 3.11 及以上,2.16 将把注意力计算完全放到 Metal 上。

深度见解

Hugging Face 的 PyTorch 团队表示其目标是让 Mac 成为运行和训练 PyTorch 模型的一流平台,这些 MPS 内核已进入 PyTorch 2.15 候选版本。

#PyTorch#Hugging Face#Apple#Metal#MPS#Wan2.2#Qwen3.6-35B-A3B#LFM2.5-8B-A1B#Qwen-Image-2.1#macOS#MPSGraph

原文约 10 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。