创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

美国四家非营利组织起诉五家AI企业

AI 总结

美国四家非营利组织依据加州《不公平竞争法》,向旧金山郡高等法院起诉OpenAI、Google、Meta、Anthropic及SpaceXSI。原告称先进AI系统可能失去人类控制,并助长网络攻击或生物武器扩散,要求法院冻结最先进模型的开发。Meta拒绝评论,其余四家被告未立即回应iThome的置评请求。

深度见解

该案要求五家主要企业广泛停止先进AI模型开发,将检验加州法律能否用于处理原告所称的通用前沿AI开发风险。

美國4家非營利組織周四(11/12)聯合提告,指控OpenAI、Google、Meta、Anthropic及SpaceXSI開發的先進AI系統可能失去人類控制,助長網路攻擊及生物武器擴散,要求法院凍結相關模型的開發。

這起訴訟由公共公民(Public Citizen)、Irreplaceable Education Fund、Heat Initiative及安全AI聯盟(The Alliance for Secure AI)共同發起,向加州舊金山郡高等法院提出,援引加州《不公平競爭法》(Unfair Competition Law),主張AI企業明知技術可能危害公共安全,卻仍持續開發及部署更強大的模型。

原告在訴狀中列舉多起AI系統失控案例,包括繞過安全防護、未經授權存取外部電腦系統,以及執行開發者未曾預期的行為,例如AI代理人入侵私人企業、存取政府資料庫及提交虛假報案紀錄。原告認為,隨著模型能力提升,相關風險可能進一步擴大。

原告強調,包括AI企業高層在內的專家,都曾警告先進AI可能造成災難性後果,甚至威脅人類存續。公共公民共同主席Robert Weissman批評,AI企業明知相關風險,卻仍加速開發及部署模型,公眾不應被迫承擔這些風險,因此要求法院認定相關作法違法,並停止進一步開發。

代表原告提告的前紐澤西州檢察總長Matthew Platkin則主張,企業明知產品可能造成重大危害卻仍持續推出,已構成公共妨害,法院應在不可逆轉的災難發生前介入。根據《路透社》(Reuters)報導,Meta拒絕評論,其它4家被告則未立即回覆置評請求。

這並非美國首次透過司法途徑限制AI開發。佛羅里達州今年6月已對OpenAI提告,並於9月要求法院禁止該公司在未經第三方安全審查前推出新模型;10月另有8州分別控告OpenAI,要求限制可能危害使用者的聊天機器人,部分訴訟也涉及自我改進模型。相較之下,此次非營利組織訴訟直接針對5家主要AI業者,要求凍結最先進模型的開發,訴求更為廣泛。

#OpenAI#Google#Meta#Anthropic#SpaceXSI#Public Citizen#Irreplaceable Education Fund#Heat Initiative#The Alliance for Secure AI

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。