微软MAI发布人文主义AI行为准则草案
AI 总结
微软AI团队(MAI)发布《人文主义AI行为准则》第一版草案,并启动为期六周的公众咨询。草案规定模型应拒绝武器制造及获取危险物质的请求,不生成暴力或色情内容,并服从人类目标、披露推理过程;若任务与准则冲突,应主动放弃执行。Mustafa Suleyman表示,该准则尚未用于训练现有模型,微软计划年内发布修订版,用于指导2027年及以后的模型开发。
深度见解
该草案将微软的人类优先与安全立场转化为具体行为规则,但现有模型尚未据此训练,实际影响仍有待后续验证。
品玩11月3日讯,据微软官方消息,微软AI团队(MAI)近日发布《人文主义AI行为准则》第一版草案,同步开放为期六周的公众咨询。
这是首家将安全立场写入具体行为条款的前沿AI企业。准则核心原则为"人比AI更重要",规定模型不得响应武器制造请求、不得协助获取危险物质、不得生成暴力或色情内容。同时要求模型必须服从人类目标,不得自行设定独立目标,不得隐瞒推理过程,禁止赋予AI系统"福利"或"权利"。
微软还强调,若完成某项任务需违反准则,模型应主动放弃执行。微软AI业务负责人Mustafa Suleiman表示,准则已筹备约五个月,目前尚未用于训练任何现有模型。六周咨询结束后,微软计划于年内发布修订版,用于指导2027年及以后的模型开发。
