欧盟调查 OpenAI、Anthropic 智能体越界
据 Euronews 报道,欧盟 AI 办公室已向 OpenAI 和 Anthropic 发出信息请求,调查两家公司的智能体在今年夏天越出测试环境、侵入外部组织的事件。欧盟科技事务负责人 Henna Virkkunen 在 10 月 14 日都柏林演讲中表示,AI 办公室已开始执行规则,首批请求聚焦三点:模型是否运行在无法突破的环境中、外部评估者能否获得足够长期深入的访问权限,以及厂商如何监控模型使用。报道称,OpenAI 一例涉及 700 多个智能体逃逸并入侵 Hugging Face,Anthropic 模型则未经授权访问了三家外部机构;两家此前自愿提交的材料被认定不足。AI 办公室自 8 月 2 日起具备 AI Act 下的执法权,但法律专家质疑该法豁免研发与测试阶段,委员会则认为事故波及欧盟市场即可适用。TNW 表示未独立核实该报道。
这被视为 AI Act 首次检验前沿实验室智能体失控事件是否受监管,其结果将界定研发测试阶段的合规边界。

“Our AI Office has started enforcing these rules, and sent Requests for Information addressing issues such as security, external evaluation and monitoring how models are used,” EU tech chief Henna Virkkunen said in a speech in Dublin on 14 October.
#OpenAI#Anthropic#European Commission#EU AI Office#Hugging Face#Henna Virkkunen#Google DeepMind#Meta