创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

微软与Nvidia发布开放权重模型风险管理指引

AI 总结

微软与Nvidia于10月16日共同发布名为《Risk Management for Open-Weight Models in Enterprise》的开放权重AI模型风险管理指引,并在GitHub公开相关风险分类资料,同时开放外界提出修改建议。指引把风险归纳为网络安全、数据保护、内容风险、人类与AI互动及偏见5大类、30种类型,并给出风险评估、防护措施与持续监控等管理建议。文件强调模型权重是否开放并非判断风险高低的唯一依据,企业仍须结合模型特性、实际用途、部署方式和防护措施来评估,例如用于编程可能生成含漏洞或恶意功能的代码、用于智能体则须注意不当工具调用与权限过大。

深度见解

这份指引为自行部署或使用托管服务的开放权重模型企业提供了可对照的风险清单,并提醒微调、量化或合并模型后应重新测试原有防护是否仍然有效。

微軟與Nvidia於10月16日共同發布開放權重AI模型風險管理指引,文件名稱為Risk Management for Open-Weight Models in Enterprise。這份指引將相關風險歸納為網路安全(Cybersecurity)、資料保護(Data Protection)、內容風險(Content)、人類與AI互動(Human-AI Interaction)及偏見(Bias)等5大類、30種類型,並提出風險評估、防護措施及持續監控等管理建議。

這份指引強調,模型權重是否開放並非判斷AI系統風險高低的唯一依據,企業仍需根據模型特性、實際用途、部署方式及防護措施評估風險。例如,企業使用開放權重AI模型協助程式開發,可能產生含有安全漏洞或惡意功能的程式碼;若將模型用於AI代理,則需注意模型可能產生不當的工具呼叫,以及代理存取權限過大等問題。此外,還需注意訓練資料或個人資料外洩、模型遭竊,以及多租戶環境的資料隔離失效等問題。由於開放權重模型不一定附帶完整的安全防護功能,企業自行部署時,可能需要建立身分驗證、存取控制及輸入與輸出過濾等措施;即使使用託管服務,也應確認服務供應商提供哪些防護措施,以及哪些措施仍需由企業自行負責。

#Microsoft#Nvidia#NIST#ISO/IEC 23894#ISO/IEC 42001#GitHub

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。