创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Reddit 用户实测:Qwen Unsloth Q8 处理财务 PDF 表现优于 Q3

AI 总结

一名 Reddit 用户介绍了四个模型处理大量银行、信用卡、房贷、经纪和退休账户 PDF 对账文件的自托管测试。该用户称,Qwen FN Unsloth Q8 准确提取了全部数据,并生成了美观且洞察丰富的前端,但运行约八小时。Qwen FN Q3 的前端尚可,但 PDF 数据提取错误,分析功能较基础。Orca nano1 约两小时完成,大部分数据正确,但存在明显错误,前端也较简单。Maya-S24 据称卡在 PDF 解析和验证阶段,用户等待十多个小时后放弃。

深度见解

这项对比以第一人称记录了一项高难度的本地模型任务,所涉财务数据是用户不愿上传云端的数据。Q8 与 Q3 的表现差异可为考虑本地处理的用户提供参考,但报告仅包含一名用户的测试结果。

Just a PSA. I ran a realistic self host test on 3 models:

Inb4 : “hurr derr no duh” The point is people on here act like these Q3 versions have minimal loss. Do tests for yourself it’s not even close.

Qwen FN Q3 Qwen FN unsloth Q8 Orca nana-1 Maya GLM flash - Maya-S24

Prompt in comments. Harness : PI Project init layout:

/<my\_bank\_name> (83 monthly pdf statements) /credit_card/<card\_1> (84 pdf monthly pdf statements) /credit_card/<card\_2> (35 pdf monthly statements) /mortgage (24 pdf monthly statements) /brokage_account (105 pdf statements + ccs of all transactions) /retirement/<account> x4 (total 45 pdf statements 4 accounts 4)

Snapshot results (have details runtime/tps etc as well):

#Qwen#Unsloth#Strata#Orca nano-1#Maya-S24

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。