AMD Loom智能体技能适配51个大模型
AI 总结
开发者 jfowers_amd 在 r/LocalLLaMA 发帖称,其智能体技能为 51 个可装入 AMD Strix Halo 的 Hugging Face 热门大模型构建了 Loom 内核,并发布了对应的模型程序。作者称全部适配均支持工具调用、推测解码和图像输入,用户可通过 hrx-loom 的 PyPI 包在 Linux 或 Windows 上获取和运行。开发者还称这些内核在 Strix Halo 上始终快于 llama.cpp Vulkan 和 ROCm,但现有报道没有独立复现或详细测试方法。
深度见解
该项目为在 Strix Halo 上适配和运行多个大模型提供了公开工具,但其性能优势尚未得到独立验证。