创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

《柳叶刀》:AI恶意使用或比核冲突更可能灭绝人类

AI 总结

《柳叶刀》10月11日发布《21世纪全球健康威胁》委员会报告,由35位专家撰写、覆盖全球204个国家和地区;在17种威胁中,只有核冲突与人工智能的恶意使用被列为可能在2100年前导致人类灭绝的风险,但报告强调两者发生概率仍然很低。报告估算,恶意使用AI到2100年或造成约104亿伤残调整生命年(DALYs)的损失,与肥胖量级相当,而核冲突可能造成约1.33亿人死亡和约93.5亿DALYs损失;委员会认为AI的灭绝路径主要是生物武器,因为大模型正在降低设计或改造病原体的门槛。围绕这一判断,业界分歧明显:Anthropic威胁情报报告披露5起可能支持生物武器研发的Claude滥用案例,其对齐负责人Evan Hubinger称未来十年AI杀死所有人的概率超过10%,黄仁勋则给出2030年前0%的估计,Gary Marcus称AI智能体接管互联网的说法荒谬。

深度见解

这份报告把AI的恶意使用与核冲突并列为最高等级的灭绝性风险,意味着AI安全议题正从行业内部争论走向主流公共卫生与政策讨论。

The LancetInstitute for Health Metrics and EvaluationAnthropic

原文约 6 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。