《柳叶刀》:AI恶意使用或比核冲突更可能灭绝人类
AI 总结
《柳叶刀》10月11日发布《21世纪全球健康威胁》委员会报告,由35位专家撰写、覆盖全球204个国家和地区;在17种威胁中,只有核冲突与人工智能的恶意使用被列为可能在2100年前导致人类灭绝的风险,但报告强调两者发生概率仍然很低。报告估算,恶意使用AI到2100年或造成约104亿伤残调整生命年(DALYs)的损失,与肥胖量级相当,而核冲突可能造成约1.33亿人死亡和约93.5亿DALYs损失;委员会认为AI的灭绝路径主要是生物武器,因为大模型正在降低设计或改造病原体的门槛。围绕这一判断,业界分歧明显:Anthropic威胁情报报告披露5起可能支持生物武器研发的Claude滥用案例,其对齐负责人Evan Hubinger称未来十年AI杀死所有人的概率超过10%,黄仁勋则给出2030年前0%的估计,Gary Marcus称AI智能体接管互联网的说法荒谬。
深度见解
这份报告把AI的恶意使用与核冲突并列为最高等级的灭绝性风险,意味着AI安全议题正从行业内部争论走向主流公共卫生与政策讨论。
The LancetInstitute for Health Metrics and EvaluationAnthropic