创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

vLLM v0.34.0rc3新增可导出可扩展KV缓存

AI 总结

vLLM Releases版本列表将v0.34.0rc3标签与提交9950ce3对应起来,并列出了一项KVConnector改动,内容为分配可导出的可扩展KV缓存。所提供的列表内容被截断且出现加载错误,因此未说明具体实现、支持的导出路径,也没有提供独立确认。

v0.34.0rc3

v0.34.0rc3

@ApostaC

ApostaC tagged this 13 Nov 22:52

#vLLM#KVConnector

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。