创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

vLLM rc2修复gfx950的AITER GEMM问题

AI 总结

vLLM v0.33.0rc2包含一项ROCm修复,在gfx950上M*N至少为2^31时跳过AITER tuned GEMM。发布说明称,该改动从提交6d01893中挑选而来。

深度见解

这项针对ROCm的修复可避免gfx950在超大矩阵维度下调用AITER tuned GEMM,解决该平台上的特定执行问题。

Signed-off-by: Micah Williamson [email protected] (cherry picked from commit 6d01893)

#vLLM v0.33.0rc2#vLLM#AITER#ROCm#gfx950#AMD

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。