SGLang 登上 GitHub Python 趋势榜
AI 总结
SGLang 是由 LMSYS 主持的开源推理框架，面向大语言模型、视觉语言模型和扩散模型，针对智能体工作负载、大规模服务与强化学习 rollout 做了优化，仓库内还包含 SGLang Diffusion 图像与视频生成引擎。它支持 NVIDIA B200/B300、H100、AMD Instinct、Google TPU、Apple Silicon、华为昇腾等多种 GPU、TPU、NPU 与 CPU 平台，并提供 Docker 镜像与 uv 安装方式。项目配套 Cookbook、文档以及 Mini-SGLang 等教学资源，长期活跃贡献者还可申请 Cursor、Claude Code 或 OpenAI Codex 的编码智能体赞助。
深度见解
对自建推理服务的团队来说，SGLang 是 vLLM 之外的主要开源选择之一，硬件覆盖范围较广。