AWS推出面向Trainium的PyTorch后端TorchNeuron
AWS在2026年PyTorch北美大会上推出TorchNeuron。据InfoQ报道,这是一套原生PyTorch后端,旨在让现有代码只需很少修改即可在AWS Trainium AI芯片上运行。其文档称,该后端原生支持分布式训练以及DDP、FSDP2和DTensor等并行API。AWS表示,切换硬件只需进行一次配置更改,无需重写或重新验证模型。报道还称,TorchNeuron可在训练和推理工作负载之间共享硬件容量,并在非高峰时段将资源从推理任务重新分配给训练任务。
TorchNeuron可能降低将PyTorch工作负载迁移到Trainium所需的工程投入。报道指出,生产环境性能、总拥有成本、特定工作负载的成本和可重复性仍需验证。

在最近举行的 2026 年 PyTorch 北美大会"上,亚马逊云科技推出了 TorchNeuron"——这是一个原生 PyTorch 后端,可以让开发者在几乎无需修改代码的情况下,在 AWS Trainium AI" 芯片上运行现有的 PyTorch 代码。
除了减少工程工作量外,TorchNeuron 还允许企业在训练和推理工作负载之间共享硬件容量,并在非高峰时段将资源从推理任务重新分配到训练任务。
亚马逊云科技表示,只需要进行一次配置更改即可切换硬件",在迁移至 Trainium 时不需要重写和重新验证模型。
如今,85% 的人工智能研究人员和开发者都在使用 PyTorch 编写代码。此前,能够运行这些代码的硬件远比代码本身的限制要多,要扩展到新的芯片,就意味着需要重写并重新验证那些耗时数月才臻于完美的代码。
#AWS#TorchNeuron#AWS Trainium#PyTorch#Amazon Annapurna Labs#Cartesia#Lieber Brain Research Institute