创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

微软MAI发布人文主义AI行为准则草案

AI 总结

微软AI团队(MAI)发布《人文主义AI行为准则》第一版草案,并启动为期六周的公众咨询。草案规定模型应拒绝武器制造及获取危险物质的请求,不生成暴力或色情内容,并服从人类目标、披露推理过程;若任务与准则冲突,应主动放弃执行。Mustafa Suleyman表示,该准则尚未用于训练现有模型,微软计划年内发布修订版,用于指导2027年及以后的模型开发。

深度见解

该草案将微软的人类优先与安全立场转化为具体行为规则,但现有模型尚未据此训练,实际影响仍有待后续验证。

品玩11月3日讯,据微软官方消息,微软AI团队(MAI)近日发布《人文主义AI行为准则》第一版草案,同步开放为期六周的公众咨询。

这是首家将安全立场写入具体行为条款的前沿AI企业。准则核心原则为"人比AI更重要",规定模型不得响应武器制造请求、不得协助获取危险物质、不得生成暴力或色情内容。同时要求模型必须服从人类目标,不得自行设定独立目标,不得隐瞒推理过程,禁止赋予AI系统"福利"或"权利"。

微软还强调,若完成某项任务需违反准则,模型应主动放弃执行。微软AI业务负责人Mustafa Suleiman表示,准则已筹备约五个月,目前尚未用于训练任何现有模型。六周咨询结束后,微软计划于年内发布修订版,用于指导2027年及以后的模型开发。

#Microsoft AI (MAI)#Microsoft

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。