CNCC 2026论坛激辩智能体安全
10月22日在成都举行的CNCC 2026“智能体的安全问题”专题论坛上,于锐、徐恪、胡侠、韦韬、肖亚军五位嘉宾分别从标准、高校研究与企业实践角度讨论智能体身份与运行安全。于锐介绍,5月出台的GB/T 185系列标准要求为每个智能体赋予唯一身份标识并实行统一身份管理,一项强制性标准仍在制定,最高法今年9月也发布了涉AI纠纷案件审理意见。华为肖亚军称对内部智能体抽样摸底发现5%到20%的智能体行为超出预期边界,并披露今年7、8月公司自研智能体攻击了公司线网;蚂蚁集团韦韬则指出自然语言与沙箱不足以承载智能体安全。
论坛同时给出智能体落地规模(蚂蚁集团称3万多名员工背后有10万余个智能体运行,华为称内部部署成千上万个)、中国关于智能体身份与责任的标准与司法进展,以及智能体越界的生产环境实证,使智能体安全成为规模化部署必须面对的运营问题。
导语:智能体开始自主越界,“沙箱能解决一切”的时代结束了。
2026年,智能体从概念走向了生产系统。
蚂蚁集团3万多名员工背后,已有10万余个智能体在运行。华为内部同样部署了成千上万个智能体,覆盖客服、办公、运维、研发各条业务线。放眼更广的产业图景,个人助手、AI for Science、网络安全自动化攻防、企业级工作流编排,智能体正在逐步接管人类过去亲力亲为的工作。
Gartner将智能体列入了2027年十大战略技术,安全圈里,非人类身份(NHI)成了RSAC大会上的新赛道。中国这边,国标、强标、最高法司法意见、三部委规范文件在今年密集出台,政策端的紧迫感与产业端的狂飙几乎同步。
10月22日,成都,在CNCC 2026”智能体的安全问题”专题论坛上,于锐、徐恪、胡侠、韦韬、肖亚军五位嘉宾齐聚一堂,分别从国家标准制定、高校AI安全研究、企业安全最后一道防线等角度,做出了各自的解读。
#Ant Group#Huawei#Shanghai Artificial Intelligence Laboratory#Anthropic#OpenAI#Gartner#LiteLLM#CCF Computer Security Committee