混合模态检索存在文本偏好,论文提出 Trident
AI 总结
一篇 arXiv 论文系统测试了多种架构的稠密检索器,发现其性能对模态组成高度敏感:随着图像文档被语义对应的文本表示逐步替换,检索效果呈明显的 V 形曲线,单模态语料上表现良好,文本与图像共存时明显下降。作者把「无关文本造成的退化比同等数量无关图像更严重」称为「文本中的混沌」(Chaos in the Text),并指出文本表示会获得系统性更高的相似度分数,使无关文本压过相关图像。为此他们提出 Trident,为每篇文档构建文本、图像、图文融合三种视图并作为对等正样本,通过 Multi-Positive View InfoNCE 联合优化相关性判别与正样本视图平衡。
深度见解
如果这种模态偏好普遍存在,多模态 RAG 与检索系统的排序结果可能被无关文本扭曲,Trident 提示了一个可行的缓解方向。
Computer Science > Information Retrieval
arXiv:2610.11816 (cs)
[Submitted on 8 Oct 2026]
Title:Chaos in the Text: Revealing the Modality Preference in Mixed-Modality Retrievers
Authors:Yubo Sun, Chunyi Peng, Yukun Yan, Zhenghao Liu, Zhipeng Xu, Sen Mei, Linlin Xin, Zheni Zeng, Maosong Sun
View a PDF of the paper titled Chaos in the Text: Revealing the Modality Preference in Mixed-Modality Retrievers, by Yubo Sun and 8 other authors