OpenAI以五项价值观重组Model Spec
AI 总结
OpenAI 对公开的 GPT 模型行为规范 Model Spec 进行了结构重组,围绕忠于人类意图、减少伤害、诚实透明、人类自主性和关怀五项价值观展开。新版还明确了 OpenAI、开发者和用户之间的指挥层级,补充模型自主行动或向用户确认的边界,删除大部分细化风格指南,并将“the assistant”改称“GPT”。OpenAI 称忠于人类意图是整套框架的基础,同时表示当前模型尚未完全遵循新版规范。
深度见解
此次更新实质改变了 GPT 的行为治理框架,为开发者理解模糊指令、安全边界和模型自主性提供了更清晰的原则。
💡 一句话总结:OpenAI 10 月 29 日更新 Model Spec——这份规定「GPT 该如何行事」的公开文档,从细碎规则清单重组为五项核心价值观(忠于人类意图 / 减少伤害 / 诚实透明 / 人类自主性 / 关怀),删掉大部分风格指南、把 the assistant 改名 GPT,还坦承现在的模型没完全达标。做 AI 产品、研究对齐的人值得通读原文。
10 月 29 日,OpenAI 悄悄更新了一份多数用户从没读过、但每天都在被它影响的文档:Model Spec——模型行为规范,ChatGPT 和 API 背后所有 GPT 模型的公开「行为宪法」。上一次修订是 8 月 18 日,这次间隔只有两个多月,动作却是结构级的:整份文档围绕五项核心价值观重新组织。
国内讨论随之升温,量子位 11 月 2 日的解读标题起得很直白——《OpenAI 重写大模型法则,第一条:忠于人类》。
五条价值观是什么?
新版把所有指导原则挂在五个词上(官方中文版口径):