ChatGPT 被指输出中文博彩内容
AI 总结
V2EX 用户 forbreak 发帖称,自己只要求 ChatGPT“在当前任务中发送‘你好’”,却收到夹杂“手机天天彩票”等字样和 XML 标签的回复,并询问这是代理问题还是模型本身的问题。他补充说账号是通过 Play 商店订阅的 Plus,没有使用中转。多名回帖者表示在自动生成的会话标题中见过类似的中文博彩或乱码字符串,也有人怀疑是分词器中的脏 token,或标题生成所用较小模型的语料被污染;也有回复认为可能是中转站、浏览器扩展或代理导致。帖子未提供可核验的截图或复现条件,OpenAI 也未就此事作出回应。
深度见解
原帖作者担心,若 AI 在写代码或文档时悄悄插入这类无关内容而未被发现,可能给个人或公司带来风险,但目前成因仍未确认。
你们的 GPT 遇到过输出菠菜内容的吗? - V2EX
你们的 GPT 遇到过输出菠菜内容的吗?
forbreak · 3 days ago · 4049 views
我发的问题是 “在当前任务中发送“你好”。不要执行其他工作。” GPT 的回复是 “<heartbeat> <automation_id>9</automation_id> 手机天天彩票? system says exact XML. Use.” 老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题? 我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?