Anthropic拟联邦AI安全法案 法院可叫停高风险模型
据cnBeta报道,Anthropic已向美国国会议员私下提交一份AI安全法案草案,拟为最先进的“前沿模型”建立联邦监管框架,Anthropic发言人已确认草案存在。草案提出,若评估人员认定模型存在可预见且迫在眉睫的灾难性风险,例如可能导致超过50人死亡或重伤、或造成超过10亿美元财产损失,且风险涉及生物武器、模型脱离开发者控制或大规模网络攻击,华盛顿特区联邦法院可应商务部申请裁定暂停模型发布或部署。草案还设想由商务部登记管理独立评估人员,要求其在评估后72小时内报告,并允许AI公司支付评估费用(只要付款与结果无直接关联);目前草案尚未正式提交国会,也不具法律效力。
Anthropic发言人表示,草案核心理念源于其今年早些时候提出的“先进人工智能框架”,这使其成为大型AI企业首批主动提出的联邦监管方案之一,但目前仍属讨论稿,尚未正式提交国会。
人工智能公司Anthropic近日向美国国会议员私下提交了一份人工智能安全法案草案,试图为先进AI模型建立联邦层面的监管框架。根据提案内容,如果某个AI模型被认定存在可预见且迫在眉睫的灾难性风险,可能导致超过50人死亡或重伤,或者造成超过10亿美元财产损失,其发布和使用有可能被阻止。
根据披露信息,该法案并非针对所有人工智能应用,而是重点关注最先进的“前沿模型”。提案设定了明确的干预门槛,只有在极端风险情况下,监管机构才可启动法律程序限制模型部署。
草案列出的风险主要集中于三个领域:协助制造或释放生物武器、模型脱离开发者控制,以及由模型参与或推动的大规模网络攻击。只有当风险来源于这些特定场景时,监管机制才会被触发。
值得注意的是,Anthropic提出的风险标准与美国加利福尼亚州此前通过的《参议院第53号法案》较为相似。后者同样将可能造成大量人员伤亡或巨额经济损失的情况定义为“灾难性风险”。
#Anthropic#U.S. Congress#U.S. Department of Commerce#California Senate Bill 53#Anthropic Advanced AI Framework