创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Reddit 用户实测 Qwen 3.8 Flash Next 本地推理

AI 总结

一名 Reddit 用户称,在配备 64GB 内存和 RTX 5090 的 CachyOS 系统中,通过 Basalt 运行 Qwen 3.8 Flash Next 的 NVFP4 版本。用户报告解码速度为每秒 200 个 token、预填充约为每秒 9000 个 token,并支持 256K 上下文;Windows 11 的内存占用则拖慢了性能。

深度见解

该帖提供了量化 Qwen 模型在高端消费级硬件上的本地推理配置与实测数据,可为相似部署环境提供参考。

#Qwen 3.8 Flash Next#Basalt#NVIDIA GeForce RTX 5090#CachyOS#Windows 11

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。