创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Tiiny Pocket 实测呈现本地 AI 速度与编程表现的取舍

AI 总结

Reddit 用户 /u/IronDiligent6698 在运行 TiinyOS 0.1.36 的 Tiiny Pocket 上测试了三个本地语言模型。速度测试的中位数结果显示,Qwen3.5-9B-Turbo 最快,输出速度约为 75 token/s;Qwen3.6-35B-A3B-Turbo 约为 64 token/s,gpt-oss-120b 则约为 16 token/s。在编程测试中,9B 未生成可评测的结果,35B 通过 10 项测试中的 9 项,gpt-oss-120b 在约 229 秒内通过全部 10 项;后两者用时分别约为 235 秒和 229 秒。作者称测试保留了每个模型表现最好的一次运行,并承认测试方法可能有遗漏。用户还称当时无法导入个人模型或从 Hugging Face 安装模型,而团队据报计划推出导入工具。

深度见解

这份报告以单一用户的第一手实测展示了紧凑型硬件运行较大本地模型的情况,并记录了速度、编程表现和模型选择方面的具体限制。相关方法与结果未获独立复现,因此这些数字应被视为用户报告的测试结果,而非经过广泛验证的基准测试。

#Tiiny Pocket#TiinyOS#Qwen3.5-9B-Turbo#Qwen3.6-35B-A3B-Turbo#gpt-oss-120b#Hugging Face

原文约 4 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。