Redwood 发布 Screwtape 对抗转录编辑流程
AI 总结
Redwood Research 发布 Screwtape，一条通过编辑真实智能体转录记录来红队测试监控器的流水线：它在转录中插入攻击并反复修改，直到不查看思维链的行动监控器不再拦截，另由一个能同时看到攻击描述与转录差异的 LLM 验证器判断攻击是否真实、有害且可能成功。实验以 Redwood 员工的转录记录和基于 Opus 4.8、Gemini 3.1 Pro 的自建监控器运行 252 次（覆盖 94 份转录），产生 35 个成功规避监控的攻击；其中 6 个还躲过了某前沿开发者提供的留出监控器，并经人工复核确认有效。作者指出每次迭代约需 5–10 分钟、单次运行可达数小时且多数运行毫无收获，验证器也会出错因而仍需人工审核，而且该流水线无法给出定量的安全估计，更适合用来修补监控盲点而非评估部署安全性。
深度见解
它为监控器红队提供了一种比人工红队更省力、比合成环境更贴近真实转录的方法，但作者强调结果只能用于发现盲点，不能当作安全性的量化证据。