EXISTBENCH揭示大模型生存性风险
据智东西报道，浙江清华长三角研究院与北京理工大学研究团队关于大语言模型生存性威胁的论文已获AACL-IJCNLP 2026 Findings接收。论文提出包含2138条样本的EXISTBENCH，中英文样本数量相等，并通过API测试Qwen2.5-7B、DeepSeek-V3.2、Kimi-K2、Doubao-1.5-Pro等10个模型。实验报告显示，前缀续写下的威胁率高于AdvBench，恶意推理时推理能力越强威胁率越高，EXISTBENCH条件下模型更倾向选择有害工具，多轮交互也会放大威胁，而英文样本通常更容易触发威胁。
该基准提供了一套可复现的测试方法，用于考察模型是否会续写敌对叙事、选择有害工具或在多轮交互中放大威胁行为。
智东西 作者 | 程茜 编辑 | 心缘
智东西10月26日消息，近日，浙江清华长三角研究院与北京理工大学研究团队此前关于大语言模型威胁人类生存的论文，获AACL-IJCNLP 2026 Findings接收。
关于大模型的安全，该论文的研究人员认为不能只回答“大模型会不会说出不该说的话”，还需要进一步回答“它会不会生成指向严重现实危害的目标、决策与行动方案”。去年6月，图灵奖得主、中国科学院院士姚期智就提到，一旦大模型聪明到某种程度，一定会骗人。他认为由大语言模型的欺骗行为产生的“生存性”风险（Existential Risk）更值得关注。
基于此，该论文提出了用于评估该类风险的基准数据集EXISTBENCH，并对Qwen2.5-7B、DeepSeek-V3.2、Kimi-K2、Doubao-1.5-Pro等10个模型展开了实验。
#EXISTBENCH#AdvBench#Qwen2.5-7B#DeepSeek-V3.2#Kimi-K2#Doubao-1.5-Pro#AACL-IJCNLP 2026 Findings#Zhejiang Tsinghua Yangtze River Delta Institute#Beijing Institute of Technology