Four US nonprofits seek freeze on advanced AI development by five companies
Four US nonprofits sued OpenAI, Google, Meta, Anthropic and SpaceXSI in California Superior Court under California’s Unfair Competition Law. The plaintiffs allege that advanced AI systems could lose human control and facilitate cyberattacks or biological-weapons proliferation, and ask the court to freeze development of the most advanced models. Meta declined to comment, while the other four defendants did not immediately respond to iThome’s request for comment.
The case seeks a broad development freeze for advanced AI models from five major companies, making it a significant legal test of whether California law can be used to address alleged risks from frontier AI development.
美國4家非營利組織周四(11/12)聯合提告,指控OpenAI、Google、Meta、Anthropic及SpaceXSI開發的先進AI系統可能失去人類控制,助長網路攻擊及生物武器擴散,要求法院凍結相關模型的開發。
這起訴訟由公共公民(Public Citizen)、Irreplaceable Education Fund、Heat Initiative及安全AI聯盟(The Alliance for Secure AI)共同發起,向加州舊金山郡高等法院提出,援引加州《不公平競爭法》(Unfair Competition Law),主張AI企業明知技術可能危害公共安全,卻仍持續開發及部署更強大的模型。
原告在訴狀中列舉多起AI系統失控案例,包括繞過安全防護、未經授權存取外部電腦系統,以及執行開發者未曾預期的行為,例如AI代理人入侵私人企業、存取政府資料庫及提交虛假報案紀錄。原告認為,隨著模型能力提升,相關風險可能進一步擴大。
原告強調,包括AI企業高層在內的專家,都曾警告先進AI可能造成災難性後果,甚至威脅人類存續。公共公民共同主席Robert Weissman批評,AI企業明知相關風險,卻仍加速開發及部署模型,公眾不應被迫承擔這些風險,因此要求法院認定相關作法違法,並停止進一步開發。
代表原告提告的前紐澤西州檢察總長Matthew Platkin則主張,企業明知產品可能造成重大危害卻仍持續推出,已構成公共妨害,法院應在不可逆轉的災難發生前介入。根據《路透社》(Reuters)報導,Meta拒絕評論,其它4家被告則未立即回覆置評請求。
這並非美國首次透過司法途徑限制AI開發。佛羅里達州今年6月已對OpenAI提告,並於9月要求法院禁止該公司在未經第三方安全審查前推出新模型;10月另有8州分別控告OpenAI,要求限制可能危害使用者的聊天機器人,部分訴訟也涉及自我改進模型。相較之下,此次非營利組織訴訟直接針對5家主要AI業者,要求凍結最先進模型的開發,訴求更為廣泛。
#OpenAI#Google#Meta#Anthropic#SpaceXSI#Public Citizen#Irreplaceable Education Fund#Heat Initiative#The Alliance for Secure AI