腾讯混元发布 Hy-Memory-30B-A3B 的 GGUF 量化版本
AI 总结
腾讯混元发布了 Hy-Memory-30B-A3B 的 GGUF 仓库，这是一个约 300 亿参数、激活参数约 30 亿的长期记忆写入模型，面向 llama.cpp 本地推理。仓库提供三档量化：Q6_K imatrix 为 24.71 GB、Q8_0 为 31.99 GB、Q4_K_M imatrix 为 18.24 GB，均采用 Apache-2.0 许可。模型卡称，在固定 20% LoCoMo 测试集、Mem0 2.0.19 评测框架下，以 gpt-5.6-sol 作为回答与评判模型，Q6_K 的 LoCoMo Judge 得分为 58.78%（154/262），Q8_0 为 57.63%，Q4_K_M 为 56.49%；这些数据由发布方自行报告，未获独立复现。
深度见解
这些量化版本让该记忆写入模型可通过 llama.cpp 在本地运行，腾讯称其可替代 Mem0、MemOS 和 Hy-Memory 等记忆框架中的通用大模型。
tencent/Hy-Memory-30B-A3B-GGUF Text Generation • 30B • Updated 9 days ago • 30.6k • 27
language:
- en
- zh pipeline_tag: text-generation library_name: transformers license: apache-2.0 base_model: tencent/Hy-Memory-30B-A3B tags:
- gguf
- llama.cpp
#Tencent Hunyuan#Hy-Memory-30B-A3B#llama.cpp#Mem0#MemOS#EverMemOS#Claude Opus 5#DeepSeek V4.1 Flash#Qwen3-embedding-8b