创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

AMD称XDNA 2 NPU支持Unsloth Desktop本地运行

AI 总结

AMD表示,锐龙 AI 处理器中的 XDNA 2 NPU 是首款支持 Unsloth Desktop 本地界面的神经处理器。兼容应用可向 Unsloth Desktop API 发送模型请求,Lemonade 和 FastFlowLM 在 NPU 上处理模型服务与推理,并将响应返回给应用。AMD还称,包括 OpenClaw 和 Hermes 在内的逾百款智能体可在锐龙 AI 系统本地运行。

深度见解

AMD表示,这一集成可让智能体在 NPU 上本地运行,将相关 AI 工作负载从 CPU 和 GPU 卸载,并为其他任务释放更多算力。AMD还称,这可能有助于延长电池供电设备的续航。

IT之家 11 月 20 日消息,AMD 当地时间 19 日宣布,其锐龙 AI 处理器上的 "XDNA 2" NPU 成为首款获得 Unsloth Desktop 本地界面支持的神经网络处理器。

具体来看,兼容的应用程序向 Unsloth Desktop API 发送模型请求,而 Lemonade 和 FastFlowLM 则在 AMD XDNA 2 NPU 上处理模型服务和推理。模型的响应返回给应用程序,供其工作流程使用。

这意味着 OpenClaw、Hermes 等超百款智能体可通过 Unsloth Desktop 在锐龙 AI 处理器的 NPU 上本地运行,从 CPU 和 GPU 上卸载相关 AI 工作负载,留出更多算力以供其它任务使用,也有助于延长带电池设备的续航。

#AMD#XDNA 2 NPU#Ryzen AI processors#Unsloth Desktop#Lemonade#FastFlowLM#OpenClaw#Hermes

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。