创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

清华北邮提出DIVA攻击:扩散式VLM安全防线受挑战

AI 总结

清华大学与北京邮电大学联合提出白盒视觉越狱方法DIVA(Discrete-diffusion Vision-language model Attack),针对离散扩散视觉语言模型(dVLM)在每轮去噪中反复调用图像条件的特点,称为跨步条件传播。方法先用文字层与视觉内容拼成复合图像拆分风险意图,再在多个去噪时间步上联合优化有界像素扰动,并按风险类别离线共享一份扰动。在HADES基准的Beaver语义指标下,LLaDA-V、MMaDA、LLaDA2.0-Uni的平均攻击成功率分别为58.80%、67.73%和69.07%;在VLSBench上LLaDA-V与MMaDA分别为52.07%和74.16%。

深度见解

它提示扩散式多模态模型的安全对齐可能需要从只看输入和最终输出,转向监测整个生成轨迹。

Tsinghua UniversityBeijing University of Posts and TelecommunicationsDIVA

原文约 11 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。