PrivacyTrace量化智能体调用轨迹隐私泄露
上海人工智能实验室、电子科技大学和悉尼大学推出PrivacyTrace基准,用于衡量AI Agent工具调用轨迹暴露用户属性的风险。实验包含1,000个合成用户、25个MCP服务器和67,950次调用,单域轨迹的属性推断成功率为26.25%,串联四个领域后升至32.77%。钛媒体援引研究称,请求参数是泄露的主要来源,但论文提出的缓解方案尚未经过验证。
该研究表明,即使对话保密且调用合规,工具轨迹仍可能暴露敏感画像,使轨迹留存、参数处理和跨服务关联成为AI Agent治理的重要问题。

AI 时代最私密的对话,可能不是你发出的那一句,而是 Agent 帮你发起的那一次工具调用。
你让 AI 助手查下周去伦敦的路线,它顺手调了地图服务;你让它整理体检报告,它连上了健康数据库。你和它的对话内容,理论上只有你和模型厂商能看到。但上海人工智能实验室 AgentDoG 团队最近发布的一项研究提醒我们:即便对话全程保密,AI Agent 在后台调用工具时留下的“作业痕迹”,也足以让观察者拼出你住哪里、信什么教、身体怎么样,勾出一幅相当完整的画像,虽然猜不出你的名字。
这项题为《工具调用能在多大程度上暴露你?来自工具调用轨迹的隐私泄露》的研究,由上海人工智能实验室联合电子科技大学、悉尼大学完成,构建了一个叫 PrivacyTrace 的基准,系统量化了这层此前被忽视的风险。结论并不玄学,而是一组可复现的数字。
#PrivacyTrace#Shanghai AI Laboratory#University of Electronic Science and Technology of China#University of Sydney#DeepSeek-V4-Flash#GPT-5.5#Gemini-3-Flash#MiniMax-M3#Model Context Protocol