ExecuTorch 加入 Cortex-M CPU 后端
AI 总结
PyTorch 博客宣布 ExecuTorch 新增 Cortex-M 后端,通过 CMSIS-NN 加速算子,让 PyTorch 模型无需转换成其他框架格式即可直接在 Arm Cortex-M 微控制器上运行,并覆盖 Scalar、DSP、MVE/Helium 三档能力。官方在 Alif Ensemble E8 的单颗 Cortex-M55(400 MHz)上测得 MLPerf Tiny 五项基准中四个模型的推理延迟均不超过 21.5 毫秒、峰值内存低于 90 KiB,其中异常检测自编码器仅 5.2 KiB;这些是团队自测数据,并非官方 MLPerf 提交。团队还在 Renesas EK-RA8D1(Cortex-M85,480 MHz)上演示了 µYOLO 实时人物检测,单帧约 24 毫秒、约 12.7 FPS。
深度见解
它把训练、导出与嵌入式部署留在同一 PyTorch 工具链内,减少 TinyML 场景的格式转换与数值对齐成本。