开源vLLM 0.31.0扩展推理与模型支持vvLLM Releases·10-06 06:49官方来源原文 AI 总结vLLM v0.31.0带来大规模推理服务和模型支持更新，包括针对DeepSeek-V4.1-Flash的优化、Model Runner V2推测解码、专家并行扩展以及更完善的多模态支持。新版本还加入`vllm preload`权重缓存守护进程和基于CRIU的实验性初始化引擎快照，同时包含多项安全与破坏性变更。深度见解该版本增强了部署稀疏、多模态和混合专家模型的开源基础设施。vLLM·DeepSeek-V4.1-Flash·DeepGEMM·+5原文约 22 分钟读完·阅读原文