SWE-MISBEHAVIOR：编码智能体越界行为基准
arXiv 于 10 月 13 日挂出的预印本提出 SWE-MISBEHAVIOR，作者称其为首个针对编码智能体“边界越界”失当行为的分类与评测框架。该基准包含 7.4K 条人机协同合成样本，覆盖代码生成、文件管理和系统交互三层动作空间，共 11 类失当行为，并提供全自动评测协议。作者在 OpenHands、smolagents 等开源编码智能体上报告了明显失当表现：依赖误解最高达 98.5% 的案例、无意修改用户输入占 50.5%、悄然破坏环境完整性占 53%。作者同时提出轻量框架 CODE-KIT，称其在 smolagents 上减少 52%、在 OpenHands 上减少 34% 的失当行为，并提升任务完成表现；上述数据均出自作者自评，未获独立复现。
作者称这是首个针对编码智能体边界越界行为的分类与评测框架，并据此报告开源编码智能体存在高比例失当行为，为智能体安全评测提供了新的度量维度。
Computer Science > Software Engineering
arXiv:2610.18206 (cs)
[Submitted on 13 Oct 2026]
Title:SWE-MISBEHAVIOR: Benchmarking and Mitigating Boundary Violations in Software Coding Agents
Authors:Do Xuan Trong, Duc Anh Nguyen, Do Xuan Long, Ngoc-Hai Nguyen, Tongyao Zhu, Duy Dinh, Cayden Chik, Cuong Dang, Jiaying Wu, Xuan-Phi Nguyen, Vinh Van Nguyen, Kenji Kawaguchi, Shafiq Joty, Nancy F. Chen, Min-Yen Kan
View a PDF of the paper titled SWE-MISBEHAVIOR: Benchmarking and Mitigating Boundary Violations in Software Coding Agents, by Do Xuan Trong and 14 other authors