Reddit 称英伟达30B语音LLM已压缩至10GB
AI 总结
一则 Reddit 帖子称,NVIDIA 的 300 亿参数语音 LLM 在无需重新训练的情况下,从 67.5GB 压缩至 10GB。发帖者称,压缩后模型的词错误率为 5.16%,教师模型为 4.12%,但所给报告未包含验证方法。
深度见解
如果经过独立验证,这一结果或可展示大幅模型压缩与较小转录错误增幅的结合,但目前证据仅来自一则未经核实的社区帖子。
| submitted by /u/Illustrious_Row_9971 [link] [comments] |