OpenAI公布GPT-6.2推理链保护进展
AI 总结
OpenAI称已加强GPT-6.2 Astra和GPT-6.2 Sol的推理思考链保护。在黑盒红队测试中,旧请求的推理提取成功率从54%降至0.2%,新请求从22.9%降至0.9%。OpenAI还称采用了多层防护措施,每周封禁数千至数万个涉嫌未经授权蒸馏的账号。
深度见解
此次更新介绍了OpenAI减少推理内容提取和未经授权模型蒸馏的措施,包括加强GPT-6.2的防护以及封禁相关账号。
摘自汇总《IT早报 1122:曝其他厂商也考虑推出阔直板形态手机;Anthropic 研究员预测 202…》
5. OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%
OpenAI 加强 GPT-6.2 Astra、GPT-6.2 Sol 推理思考链保护,经黑盒红队测试,旧请求推理提取成功率从 54% 降至 0.2%,新请求从 22.9% 降至 0.9%。OpenAI 还采取多层防护,每周封禁数千至数万涉未经授权蒸馏的账号。>> 查看详情