AI 的“拒绝机制”为何成为安全的承重墙
AI 总结
MIT Technology Review 的一篇深度分析指出，从 Anthropic 的“helpful、honest、harmless”原则，到 OpenAI 为 ChatGPT 发布前组织的红队测试与后续微调，让模型学会拒绝有害请求已成为 AI 安全的核心手段。文章称研究者仍只能用“高维多面锥”等假设描述模型内部触发拒绝的激活模式，因此企业只能叠加分类器等外层防护，即所谓的“瑞士奶酪模型”；Anthropic 曾表示某一类分类器使其聊天机器人算力成本增加 24%。由于拒绝在本质上是概率性的，它既可能被规避，也可能在政府或企业划线时被用来压制合法表达。
深度见解
拒绝行为是当前大模型安全对齐的主要防线，这篇文章提醒其可靠性与划线权都存在问题，值得关注安全与治理的人一读。