GeneralPoints规则与花色变化测试中RL表现优于SFT
AI 总结
一篇关于GeneralPoints实验的报道介绍了一个类似“24点”的游戏,使用四张牌进行加减乘除运算。在规则变化测试中,训练时J、Q、K均按10计算,测试时则分别按11、12和13计算;RL准确率上升3.5%,SFT准确率下降8.1%。在另一项换花色测试中,训练使用黑桃和梅花,测试改用红桃和方块;RL上升17.6%,SFT下降9.9%。报道将这些结果作为RL与SFT在输入变化时表现不同的例子,同时提醒不能据此认定RL总能更好地泛化或SFT只会记忆。
深度见解
这些结果具体展示了基于结果的RL与监督微调在规则或牌面花色变化时的表现差异,但两项实验不足以支持关于任一方法的普遍结论。
原文:mp.weixin.qq.com/s/Mc-6RlqGn…(2026年10月11日)
做 AI 应用的人常有这种直觉:监督微调(SFT)出来的模型,遇到见过的题型特别稳,一遇到新花样就开始“死记硬背”地套旧答案。
这不是错觉。有一组像“教学演示”一样的实验,把这种差别清清楚楚地量了出来。
一个“24 点”游戏,照出了“背”和“懂”
这个游戏叫 GeneralPoints,规则和大家玩过的“24 点”很像:给你四张牌,用加减乘除凑出 24,每张牌用一次。