macOS 本地 AI 部署的两个故障点
AI 总结
掘金 AI 文章记录了作者亲历的两个本地部署问题：Hugging Face 的 HF_HOME 指向外接盘上仅 163 MB 的未完成缓存，而非本机完整的 2.9 GB 缓存，导致 faster-whisper-large-v3 报错无法打开 model.bin。文中还称 macOS 每进程文件描述符软上限为 256，使 Ollama、Open WebUI 和 ChromaDB 组成的技术栈出现“Too many open files”，并建议通过 launchd 配置和 ulimit 提高上限。
深度见解
文章提供了排查模型缓存与文件描述符耗尽的实用方法，可帮助本地 AI 开发者区分真正损坏的模型与系统配置问题。
本地部署大模型，真正的坑常不在模型本身，而在两处系统默认值：① 模型权重缓存目录指向错了——HF_HOME 指向外接盘一份 163 MB 下载中断的半成品，本机 2.9 GB 完整包不看，model.bin 于是 Unable to open file；② macOS 默认每进程文件描述符软上限只有 256，本地 AI 栈跑着跑着 Too many open files，服务连不上。两个坑我都实打实翻过车。
1. 坑一：模型权重缓存指向错了（HF_HOME / 外接盘）
路线 B（CPU 上的 faster-whisper-large-v3）第一次执行直接崩：RuntimeError: Unable to open file 'model.bin'。第一反应别急着"重新下载"，先问程序到底在哪个目录找文件。
两份缓存，程序只看其中一份：
| 缓存位置 | 大小 | 状态 |
|---|---|---|
本机默认 ~/.cache/huggingface/hub | 2.9 GB | 完整，model.bin 在 |
HF_HOME 指向的外接盘缓存 | 163 MB | 残骸，只剩 *.incomplete |
#faster-whisper-large-v3#Hugging Face#Ollama#Open WebUI#ChromaDB#macOS