Create

Sign in to ReadmeX

Sign in to join communities, post, vote and chat.

New here?

Story

Opinion contrasts U.S. and Chinese approaches to military AI safeguards

AI summary

This opinion piece contrasts the United States’ reported push to establish an autonomous warfare command and expand military AI spending with China’s stated emphasis on AI-assisted decision-making and human control over lethal force. It also discusses Anthropic’s reported dispute with the U.S. government over Claude’s military-use safeguards and upcoming United Nations talks on legally binding limits for lethal autonomous weapons.

Why it matters: The debate highlights how military AI deployment may depend as much on governance and accountability rules as on technical capability.

AnthropicClaudeUnited States Department of Defense

0
Source text虎嗅 AI · 5 min read
2026年9月30日,美国国防部长赫格塞思宣布组建“自主作战司令部”,一个四星级联合作战司令部,管辖无人机、人工智能以及指挥控制系统。五角大楼正寻求将自主作战领域支出增加两倍,并在预算申请中提议为无人机及反无人机技术投入740亿美元。这不是一次普通的军事编制调整。它标志着一件事:AI正式从“辅助工具”升级为作......

本文来自微信公众号: 斯凯碎碎侃 ,作者:斯凯

2026年9月30日,美国国防部长赫格塞思宣布组建“自主作战司令部”,一个四星级联合作战司令部,管辖无人机、人工智能以及指挥控制系统。五角大楼正寻求将自主作战领域支出增加两倍,并在预算申请中提议为无人机及反无人机技术投入740亿美元。

这不是一次普通的军事编制调整。它标志着一件事:AI正式从“辅助工具”升级为作战体系内的核心单元。

但真正值得追问的,不是“谁的AI更强”,而是“谁在踩刹车,谁在拆刹车”。

美国:系统性拆除多重安全刹车

拆内刹。2026年2月,赫格塞思向Anthropic设定“最后通牒”:解除Claude在军事网络上的安全限制,接受“所有合法用途”条款。Anthropic拒绝,其底线是不得用于完全自主武器和大规模监控。结果:特朗普下令联邦机构立即停止使用Anthropic,五角大楼将其列为“供应链风险”。一家企业试图为军事AI设置伦理边界,被定义为供应链隐患。

拆外刹。9月,联合国日内瓦致命自主武器谈判进程中,美俄外交官推动删除多项安全条款——包括“可预测可靠运行”“考虑伦理因素”“人类审查AI生成打击目标”。相关闭门会议关闭摄像机,民间社会观察员离场。需要说明的是,上述修改仅针对谈判草案文本,并非现行生效国际法已经删除相关约束。同时,特朗普6月签署国家安全备忘录,要求90天内更新自主武器指令,但截至9月下旬尚未公布。

代价。2026年2月28日,美军空袭伊朗米纳布一所女子小学,168人遇难,其中绝大多数为儿童。调查发现,情报缺陷、图像过时、过度依赖AI系统是事故诱因。帕兰蒂尔回应:“不对基础数据负责。”在这起事件中,没有人为这场悲剧承担个人责任。

补充边界:美国现行国防部规范仍保留部分人类审查要求,但组建自主作战司令部、打压企业伦理约束,整体方向是持续压缩人类决策窗口。

中国:开火权留在人类手里

中国走的是另一条路线。

官方表述始终是“智能化辅助决策”,而非“完全自主作战”。核心区别在于:美方的方向是压缩人类决策窗口,让AI深度嵌入打击链;中方的方向是增强人类决策能力,AI负责处理海量情报信息,杀伤性开火的最终决定权保留在人类手中。

补充边界:中国同样在稳步推进军事智能化建设,AI广泛应用于侦察、态势感知、情报研判等场景,但始终守住人类掌握杀伤决策这一底线,并非不发展军用AI技术。

在联合国谈判中,反对删除安全条款的,不只是中国。中国、欧盟以及多数发展中国家共同主张保留“人类审查”条款。中国在《特定常规武器公约》框架下提交了规范AI军事应用的立场文件,强调“确保有关武器系统始终处于人类控制之下,明确人是最终责任主体”。美俄属于少数派。

2023年,中国提出《全球人工智能治理倡议》,明确“AI不应被用于自主决定杀伤人类”。

分水岭:不是技术差距,是制度分歧

美国路线的核心理念是“AI主导战斗力量”,方向是压缩人类决策窗口,让AI直接参与打击链。商业公司可接入军方机密网络,技术层面的伦理护栏被系统性拆除。这条路径的潜在风险,是AI出错之后,责任主体模糊,无人担责。

中国路线的核心理念是“智能化辅助决策”,方向是增强人类决策能力,AI处理信息,但开火权留在人手里。商业公司通过军民融合机制参与相关建设,不会直接接入作战杀伤决策链路。这条路径短期效率或许不及美国路线,但保留了至关重要的一环:当AI犯错时,有人承担责任。

这两条路线的分水岭,不在技术强弱,而在制度设计。不在谁的AI算力更强,而在谁的制度能够守住底线,规避AI自主杀伤带来的失控风险。

写在最后

联合国将于11月在日内瓦再次开会,讨论是否推动制定具有法律约束力的条约。美国在上一轮谈判草案修改中,推动拿掉多项安全约束条款。下一个回合,各方博弈还会继续。

AI可以辅助决策,但开火的权力,必须留在人类手里。

美国在拆刹车,中国在踩刹车。而刹车一旦被拆掉,再想装回去,就难了。

联合国11月日内瓦谈判即将开启,要不要给致命自主武器套上具备法律约束力的硬约束,各方博弈已经到关键节点。

AI可以辅助战场研判,但致命开火权,是否必须牢牢握在人类手中?你认为国际社会,还守得住「人类必须审查」这条底线吗?欢迎在评论区留下你的判断。

Read the original →

How we got here

  1. Only 11 of 26 popular Chinese 'de-AI-flavor' rules survive testing少数派 AI · Claude

Comments

I've used this: share my experience What I think: share my view
How important is this story?No ratings yet

No comments yet. Start the conversation.