资讯

llama.cpp 提议转换时合并 Qwen 张量

r

r/LocalLLaMA10-25 16:37官方来源

AI 总结

am17an 提交的一项拉取请求提议在 llama.cpp 将模型转换为 GGUF 时合并 Qwen 张量。所给 Reddit 帖子链接至 ggml-org/llama.cpp 的 31028 号拉取请求，但未确认该请求已合并，也未提供实现细节。

深度见解

该提议涉及 llama.cpp 中 Qwen 模型转换流程的一项具体改动，但其审核状态仍未确认。

...time to reconvert GGUFs? submitted by /u/jacek2023 [link] [comments]

#llama.cpp #Qwen #GGUF

原文约 1 分钟读完阅读原文

还没有评论，来说说你的看法。