Kapitsa 0.2.26新增SSD卸载和Apple Silicon基准测试
AI 总结
Kapitsa贡献者Ye宣布0.2.26版本,新支持DiffuSpace的Clover 35B。他称,与此前M5 Max测试结果相比,Qwen Flash-Next 180B的提示读取速度提升46%,Qwen3.8 27B的输出速度提升8%。该版本还支持Flash-Next 180B的SSD卸载:Ye表示,无法装入内存的专家层可从SSD流式读取,据称能让48 GB内存的MacBook Pro达到每秒61个词元。在配备128 GB内存的2026款M5 Max MacBook Pro上,基准测试覆盖六款模型和1K至32K上下文长度。这些数据由项目贡献者提供;他邀请其他人提交可比测试结果,并警告新代码库可能出现预填充或解码错误。
深度见解
此次更新扩展了Apple Silicon上的本地模型支持,并使内存无法完整容纳的Flash-Next 180B仍可运行。其性能数据来自贡献者基准测试,仍有待社区进一步验证。
#Kapitsa#KFlash#Qwen Flash-Next 180B#Qwen3.8 27B#Clover 35B#Qwen3.6 35B-A3B#Flint 40B#Nemotron Bolt 74B#DiffuSpace