IBM Spyre 成为 PyTorch 原生设备
AI 总结
IBM 的 torch-spyre 团队在 PyTorch 博客发文，介绍如何把面向推理的 Spyre 数据流 AI 加速器接入 PyTorch 的设备体系：用 PrivateUse1 注册名为 spyre 的设备身份，并把分配器、流、事件和 Inductor 编译路径逐一映射到 Spyre 运行时的约束上。文章称，以类型化操作的有序队列取代运行时的图结构后，eager 与编译执行共用一条路径，可以降低启动开销，并让张量真正常驻在 device="spyre" 上。Spyre 定位于在 IBM Z、LinuxONE 和 Power 系统上运行的企业推理工作负载，原文未提供性能或基准数据，且末尾内容有截断。
深度见解
它展示了把新型数据流加速器接入 PyTorch 标准抽象的一种做法，对评估非 GPU 推理硬件的团队有参考价值。