开放权重模型的网络风险争论已经失焦
AI 总结
Interconnects 发表评论文章,认为围绕开放权重模型网络风险的公共讨论已经失衡:Anthropic 关于 GLM-5.3 可被用作攻击性网络工具的报告在技术上大体合理,却没有回答“若因网络风险封禁开放模型会怎样”以及“中国公司为何认为这些模型可以发布”这类跨领域问题。作者指出,目前有记录的多数网络攻击来自闭源模型,因此“开放危险、闭源安全”也许更接近“开放不安全、闭源也不安全”;他还称中国公司每次重大模型发布都需向政府登记并接受评估,但这些评估是否覆盖网络、生物等风险尚不清楚。他认为真正跨过能力门槛的是 GLM-5.3 而非 Claude Mythos,而模型权重发布一个多月后,公开证据并未显示风险出现突变。
深度见解
这场讨论直接影响开放权重模型的政策走向;作者主张,若封禁开放模型却任由闭源模型 API 继续推进,反而可能拉大网络攻防差距。