创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Strata 0.2.0 发布:本地大模型硬件门槛降 16GB

AI 总结

AIbase AI新闻 10 月 20 日报道,开源本地大模型运行工具 Strata 发布 0.2.0 测试版,新增独立图形界面,并称内存与显存合计最低约 27.6GB 即可运行本地模型,例如 12GB 显存显卡搭配 20GB 系统内存。报道称 IQ2_XS 推荐档从 48GB 降至 40GB,IQ3_XXS 从 64GB 降至 48GB,整体降低 8GB 至 16GB,这些数字均来自这一篇报道。性能方面,报道称 RTX 30 系列显卡文本生成最高提升约 13%,AMD RX 9000 系列部分模型的提示词处理接近翻倍,Intel Arc A750 提升约 42%,新版本支持 Windows、macOS、Linux,并提供原生中文界面。

深度见解

报道称 12GB 显存加 20GB 系统内存即可满足最低部署要求,这为普通家用电脑本地运行大模型给出了具体门槛。

开源本地 AI 大模型运行工具 Strata 迎来了0.2.0测试版的重磅更新。作为一款致力于让普通家用电脑流畅运行 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B 等大语言模型的开源利器,Strata 在本次升级中不仅推出了全新的独立图形界面,还进一步大幅降低了本地部署的硬件门槛。

在硬件配置要求上,新版本对内存与显存(RAM + VRAM)的综合占用进行了深度优化。内存与显存合计最低仅需27.6GB 即可流畅运行本地大模型。这意味着如果用户配备一张12GB 显存的显卡,搭配20GB 的系统内存即可满足最低部署要求。在具体的模型推荐档位中,原本需要48GB 配置的 IQ2_XS 推荐档降至40GB,而原本需要64GB 的 IQ3_XXS 高质量推荐档则大幅降至48GB,整体硬件要求降低了8GB 到16GB 不等。

除了硬件门槛的下探,Strata0.2.0在推理性能上也实现了全方位的硬件加速。其中:

NVIDIA 阵营:RTX30系列显卡文本生成速度最高提升约13%(实测 RTX3060提升10.2%,RTX A4000提升13%);

AMD 阵营:RX9000系列显卡在部分模型上的提示词处理速度接近翻倍;

Intel 阵营:Arc A750显卡的提示词处理速度同样获得了约42% 的显著提升。

在交互体验与生态扩展方面,Strata0.2.0摆脱了以往依赖命令行编译部署的复杂繁琐,全面支持 Windows、macOS 以及 Linux 平台,并新增了原生中文图形界面与智能化安装指导。更值得一提的是,新版图形界面中还深度集成了一款 AI 编程 Agent,支持文件读取与修改、联网搜索以及自动化任务执行;同时,针对 NVIDIA 和 AMD 显卡默认启用了图片理解功能,并对模型下载机制进行了多线程并发与断点续传的优化。

#Strata#Qwen3.8-Flash-Next#Qwen3.6-35B-A3B#NVIDIA#AMD#Intel

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。