低成本模型无视日文指令的三步修法
AI 总结
LinkDigest作者称,低成本flash模型在为日本客户生成报告时,前3批中有2批的摘要和要点均为中文,尽管系统明确要求使用日文。文章提出按字形检查生成文本、带明确语言规则重问一次、翻译兜底,并让代码保留原始引文;重试还设有独立token上限,失败时保留已有结果。重新运行8个城市后,作者称剩余7份报告的正文为日文、引文保留中文,另有1份因只找到1条笔记而撤下。
深度见解
这起事故及修复流程为多语言AI生产系统提供了可借鉴的输出校验、重试限制、确定性兜底和语言如实标注方案。
说明:文中的服务是作者自己做的(LinkDigest,把小红书、抖音链接读成文字的接口)。数字来自 2026-11-06 当晚的线上日志。
背景
我们有一个接口:一组小红书笔记读完之后,用一个便宜的 flash 模型写一份「对比报告」(共同主题、开头钩子、读者顾虑、空白点……),报告语言可以指定,比如 translate_to: "ja"。系统提示里写得很清楚:Reply with JSON, in Japanese.
事故
当晚给日本的客户做 8 个城市的公开报告。前 3 批里有 2 批,模型写出来的 summary 和每条要点全是中文。 原因不难猜:输入的笔记是中文,便宜模型被素材的语言「带跑了」,提示词里那句 in Japanese 被无视。
第一反应通常是改提示词:加粗、写三遍、放到最前面。我们的规矩是:一个线上模型两次违反同一条指令,就不再换措辞,改成三步:代码检查 → 一次重问 → 确定性的兜底。