辛顿提议AI行业建立FDA式前置审批机制
AI 总结
杰弗里·辛顿在《Smart Girl Dumb Questions》播客中提议,AI公司应在产品正式发布前先向监管机构证明其安全性。他以制药业作类比说,新药不能未经审批上市,必须说服FDA并投入约十亿美元级别的工作,他认为AI至少也应达到这样的要求。虎嗅的评论文章还梳理了他在9月16日美国国会山闭门简报会和10月6日专访中的相关主张:由开发企业主动提供可核验的安全证据,并接受第三方与官方审核,同时称建立监管体系的窗口大约只剩一两年;他批评RLHF只是表面修饰,并把AI递归式自我改进视为风险来源,同时表示部分判断属于个人推测。
深度见解
按辛顿的构想,AI模型发布前须像新药一样向监管机构提交可核验的安全证据,这与虎嗅所描述的当前“先上线、后整改”做法正好相反。