从零构建企业级 AI 记忆系统
AI 总结
开发者驻波介绍了一套构建企业级 AI 记忆系统的入门架构。所提出的流程涵盖异步写入、实体链接与主题归一化、BM25 和 Embedding 检索、权限过滤、删除状态检查、版本控制及证据校验。文章以杭州旅游攻略为例,说明系统如何利用结构化字段召回此前的对话。该示例的记忆效果和系统行为尚未获得独立验证,报告也没有证明已经部署了完整的生产系统。作者表示后续还会分享 Runtime、评测和 vLLM 等内容。
深度见解
该文提供了实现可检索对话记忆的具体设计思路,同时区分来源内容与长期用户事实和偏好,并展示如何利用规范实体、规范主题、权限、版本和证据校验约束检索过程。
Bg
AI已经进入程序员很多日常中。过去一年,驻波从前端转到后端再转向 AI Infra,后面有空写文章时候将分享一些真实的企业级AI开发相关的知识(主播不买课),Runtime,评测,vLLM,这些都会聊到的。进入正题我们看向本集重点:“Memory系统初步构建”
ShowCase
User:“帮我出一个杭州旅游攻略。”
Output: "这是一份详细的杭州旅游攻略......(Conetxt1)"
---------- 一段时间之后 ---------
User:“上次我们聊天杭州游玩攻略再给我一下。”
Output: "我还记得呢,上次我们说的杭州旅游攻略......(Context1)"
为什么长对话的情况下AI貌似真有记忆,而且比人清楚的多,真实的一字不差的复述以前很久的内容。
行为拆解
第一次输入
这里我们先不分析Runtime对用户Query的操作,当作全部的Query不做加工直接给Memory服务,那么第一次对话。Memory系统接收到的是: