AI治理转向运行时：智能体全天候运行带来挑战
AI 总结
在 Dell Technologies 举办的“AI Leadership Symposium”上，Singulr AI 联合创始人兼 CEO Shiv Agarwal、Sycamore Labs 创始人兼 CEO Sri Viswanath 与 MisaLabs 联合创始人 Victor Jakubiuk 讨论指出，随着自主智能体全天候跨平台运行，企业 AI 治理的重心正从部署前的权限定义转向运行时行为监控。Agarwal 表示，企业需要在业务意图与实际运行时状态之间进行“合理化”对齐，Singulr 已将智能体治理扩展到员工终端上的本地 AI 工具，因为诸如联网取数或向私人邮箱发信等动作可能深藏在智能体行为内部。Viswanath 称，部分 CIO 要求智能体和大语言模型调用留在自有的虚拟私有云内、数据不外传；Agarwal 呼吁包括欧盟 AI 法案在内的治理框架加强标准化，Jakubiuk 则强调企业需跟上 AI 能力的演进速度。
深度见解
随着智能体从演示走向全天候生产运行，治理能否落到运行时执行层面，将直接影响企业对自主智能体的信任与部署范围。