vLLM 0.33.0新增模型并转向CUDA 13.0
AI 总结
vLLM发布0.33.0版本，包含927次提交，来自389名贡献者，其中122人为首次贡献。该版本新增Reflection Beam-1.0、AliceAI-Foundation-80B-A3B、Recursive Flint、Step-5 Preview、Alpamayo 2 Super、Nemotron Parse 3.5和MiniCPM-OCR 1.0等模型支持，并升级至PyTorch 2.14.0。此次更新还加入推测解码改动，发布产物仅支持CUDA 13.0；发布说明引用的吞吐量提升数据来自项目方基准测试，未提供独立测量结果。
深度见解
这次重要更新扩展了vLLM的模型覆盖和服务能力，但需要CUDA 12.9构建产物的用户必须改用该版本的CUDA 13.0版本。
暂时无法在这里展示来源正文，可前往原文阅读。
#vLLM 0.33.0#PyTorch#CUDA#Reflection Beam-1.0#AliceAI-Foundation-80B-A3B#Recursive Flint#Step-5 Preview#NVIDIA Alpamayo 2 Super#Nemotron Parse 3.5#MiniCPM-OCR 1.0#DeepSeek-V4.1-Flash#DSpark