Reddit 用户展示 IVY 本地与云端混合助手
AI 总结
一名 Reddit 用户介绍其开发的 IVY 助手:系统通过两块 RTX 3090 运行本地 Qwen3.8-27B,并在云端调用 DeepSeek 和 Claude 模型。它还包含网页聊天、语音与面部动画流程、GPU 加速检索,以及由 llama-swap 提供的其他创作模型。该帖详细记录了个人项目,但其说法尚未得到独立验证。
深度见解
该项目具体展示了如何在个人 AI 助手中结合本地推理、云端模型、检索、语音和动画功能。
| Slow news day.. Core: Hardware IVY's brain (the language models) Memory Voice and hearing (PC) Face (3090) Creative and teacher models on the 3090 (llama-swap, loaded on demand) submitted by /u/Fabulous_Fact_606 [link] [comments] |
#IVY#Qwen3.8-27B#DeepSeek#Claude Opus 5.5#Claude Sonnet 5.5#Claude Haiku 5.5#llama-swap#NVIDIA cuVS#Qwen3-Embedding-8B#Qwen3-Reranker-4B#Breeze TTS 2#Qwen3-ASR