ChatGPT 标题为何夹带赌博色情广告词元
AI 总结
从今年年初的 Codex CLI 与 API 调用开始,陆续有开发者发现 GPT 系列模型在长上下文下会输出中文博彩广告词;到 8 月中旬,类似异常字符串开始出现在 ChatGPT 普通用户自动生成的会话标题末尾。爱范儿的分析认为,标题由独立于正文的轻量推理模型生成,该模型常在应当结束的位置收尾失败、继续按概率吐出下一个词元,而从 2024 年 GPT-4o 起采用的 o200k_base 中文词表中存在大量未清洗的赌博、色情、盗版影视广告词组,使这些词元成为最可能被吐出的“乱码”。OpenAI 官方在 7 月 25 日首次回应称已知悉该问题,但至今未能根治;文中技术原理为作者推断,OpenAI 未公开标题生成机制。
深度见解
它显示分词器训练数据的卫生问题会以看似无关的产品细节暴露给普通用户,也说明词表与基模绑定会抬高根治成本。
「我们必须想象西西弗斯是……成人娱乐主管?!」
如果你是 ChatGPT 的高频用户,想必从今年 8 月开始,就碰上过一种神秘现象:ChatGPT 偶尔会在自动生成的会话标题最后,加上一些意义不明的外语单词,或是来自赌博、色情小广告的片段。
图|OpenAI Developer Community@phdsx_666
给中文会话起个英文标题倒是见怪不怪,但在标题里夹带小广告确实是全新版本。
它引起了编辑部的兴趣。在这个假期,我们用一晚上深挖背后可能的技术原理,得出了一些初步判断:
#OpenAI#ChatGPT#Codex CLI#GPT-4o#GPT-5.3#GPT-5.2-chat-latest