Goodfire 推出智能体内部激活监控
AI 总结
可解释性初创公司 Goodfire 发布了一套“由内而外”的智能体监控工具，通过探针读取模型内部激活信号，而不是让另一个模型逐字复核输出，目前向 Baseten 客户开放。公司称在 Kimi K3 上监测约 1500 个会话的成本约为 51 美元，而用较便宜的模型逐步检查约需 233 美元、用顶级模型约需 1 万美元；探针识别出 94% 的恶意黑客会话，同时把 8.7% 的无害会话误送人工复核，四个探针并行只增加不到 2% 的首字响应时间。客户可选择监控攻击性黑客、生化武器滥用与 reward hacking 等风险，并设定记录、转人工或直接拒绝等响应方式。
深度见解
这类推理期监控若能以更低成本落地，可能成为开放权重模型在托管服务层面的一道安全防线。