Self-Credit 论文:用组内重标定为长程智能体强化学习做信用分配
arXiv 新论文(2610.28388,2026 年 10 月 20 日提交)由 Fangcong Yin、Ming Yin 等作者提出 Self-Credit,一种端到端的智能体强化学习方法,通过自生成信用分配与组内重标定,把稀疏的结果奖励转化为稠密监督信号。该方法建立在分组强化学习之上,包含三部分:策略模型在 rollout 中生成摘要并引用此前包含关键证据的轮次;组内重标定对同一提示下成功与失败 rollout 中被引用的动作进行比较;优势重加权把重标定后的权重用于更新被引用轮次的优势值。作者报告,在 BrowseComp-Plus 上,Self-Credit 相较基座模型在 Qwen3 8B 和 32B 上分别提升 37.0 和 36.2 分,并分别以 8.5 和 5.6 分超过最强的智能体强化学习基线;在 GAIA 和 xBench-DeepSearch 上也分别领先最强基线 4.9 和 4.7 分。上述数据均为作者自述,尚未经独立复现。
论文指出典型 RLVR 奖励稀疏,使长程智能体任务的信用分配十分困难,并提出一种无需额外人工标注即可获得轮次级信用的方法。
Computer Science > Machine Learning
arXiv:2610.28388 (cs)
[Submitted on 20 Oct 2026]
Title:Self-Credit: Credit Assignment for Long-Horizon Agentic RL via Intra-group Rescaling
Authors:Fangcong Yin, Ming Yin, Tanvi Bhandarkar, Aashu Singh, Eryk Helenowski, Shlok Kumar Mishra, Saghar Hosseini, Karthik Abinav Sankararaman, Greg Durrett, Dinkar Juyal
View a PDF of the paper titled Self-Credit: Credit Assignment for Long-Horizon Agentic RL via Intra-group Rescaling, by Fangcong Yin and 9 other authors
#Self-Credit#Qwen3#BrowseComp-Plus#GAIA#xBench-DeepSearch#arXiv