LangChain教程用语义检索实现动态少样本提示
AI 总结
一篇教程演示了如何利用LangChain构建动态少样本提示流程。教程加载本地bge-large-zh-v1.5嵌入模型,通过Chroma和SemanticSimilarityExampleSelector为每次输入检索语义最相似的3条示例,再利用FewShotPromptTemplate与当前评论组合成完整提示词。该示例用于构建情感分类提示词,并未直接调用大语言模型。
深度见解
报告给出了检索式少样本提示的具体实现,并说明动态选择与当前输入相近的示例可以控制提示长度、提高示例相关性,尤其适用于示例库较大的场景。
基于语义相似度的动态少样本提示。它不是把所有示例都写死在提示词里,而是根据用户输入,从示例库中自动挑选最相关的几条,再拼成提示词交给大模型使用。
整体流程
先准备了一组评论情感分类示例,例如“这个手机拍照真好看”对应“正面”,“物流太慢了”对应“负面”。然后加载本地中文嵌入模型 bge-large-zh-v1.5,把文本转换成向量。接着用 Chroma 向量库和 SemanticSimilarityExampleSelector 构建一个语义相似度选择器,每次根据用户输入选出最相似的 3 条示例。最后通过 FewShotPromptTemplate 把这些示例和用户当前评论组合成完整提示词。
大模型在这里扮演什么角色
本身并没有直接调用大模型,它生成的是给大模型使用的提示词。
在这个例子里,大模型会收到类似这样的输入:
#LangChain#Chroma#SemanticSimilarityExampleSelector#FewShotPromptTemplate#bge-large-zh-v1.5#HuggingFaceEmbeddings