研究:开放权重模型遭间接提示注入攻击概率高88%
AI 总结
安全研究机构 PromptArmor 公布一项包含 9800 次试验的评估,称基于开放权重模型(DeepSeek、Kimi、GLM、Qwen)构建的智能体对真实间接提示注入攻击链的易感率为 26.7%,而闭源模型(GPT、Claude、Gemini)为 14.2%,高出约 88%。该机构举例称,“总结网址并运行恶意代码”一类攻击在开放权重模型上得手率为 49%、闭源模型为 9%,钓鱼登录弹窗为 36% 对 5%。研究还称闭源厂商的廉价版模型比其旗舰更易被攻破(高出 169%),而 Qwen 与 DeepSeek 的廉价版反而比旧旗舰更稳健;PromptArmor 未公开完整方法与数据集,结论尚待独立验证。
深度见解
若企业把智能体部署在开放权重模型上,可能面临更大的提示注入攻击面,模型选型时应把注入防护能力纳入考量。