SGLang v0.5.22 发布：新增多模型支持与最高 2.3 倍吞吐提升
AI 总结
SGLang 发布 v0.5.22，官方发布说明称该版本包含来自 245 位贡献者的 950 个 PR。新版本新增对 Clef / Clef Flash、PPLX-Decider v1 / v1.1、EmbeddingGemma 2、LLaDA2.2、HunyuanImage-3.0-Instruct、Kandinsky 6 等模型的支持。发布说明称，DeepSeek-V4.1 在 H200 上每 GPU 吞吐最高提升 2.3 倍，并可在 AMD MI350X / MI355X 上运行、凭借 DSpark 获得最高 1.9 倍吞吐；此外 GLM-5.3 在结合解码上下文并行与 MTP 时解码速度最高提升 2.1 倍。该版本还要求 Python 3.11 及以上，并废弃 --enable-dp-attention 等选项，属于需要留意的不兼容变更。
深度见解
SGLang 是广泛使用的开源推理框架，此次更新称 DeepSeek-V4.1 在 H200 上每 GPU 吞吐最高提升 2.3 倍并新增 AMD MI350X / MI355X 支持，同时引入 Python 3.11+ 与参数废弃等不兼容变更。
Highlights
950 PRs from 245 contributors.
New models
| Model | Type | Cookbook |
|---|---|---|
| Clef / Clef Flash | LLM / VLM | link |
| PPLX-Decider v1 / v1.1 | LLM / VLM | link |
| EmbeddingGemma 2 | LLM / VLM | link |
| LLaDA2.2 | LLM / VLM | |
| HunyuanImage-3.0-Instruct | Diffusion | link |
| Kandinsky 6 / Kandinsky 6 SR | Diffusion | link |
| Wan-Animate-2 | Diffusion | link |
| SANA-Video 2.0 | Diffusion | link |
| LLaDA-Image / LLaDA-Image-Turbo | Diffusion |
部分来源内容未展示，可前往原文继续阅读。
#SGLang#DeepSeek-V4.1#Qwen3.8-Flash-Next#GLM-5.3#MiMo-V2.6-Pro#EmbeddingGemma 2#HunyuanImage-3.0-Instruct#Kandinsky 6#AMD Instinct MI350X#Apple Silicon