创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

辛顿提议AI行业建立FDA式前置审批机制

AI 总结

杰弗里·辛顿在《Smart Girl Dumb Questions》播客中提议,AI公司应在产品正式发布前先向监管机构证明其安全性。他以制药业作类比说,新药不能未经审批上市,必须说服FDA并投入约十亿美元级别的工作,他认为AI至少也应达到这样的要求。虎嗅的评论文章还梳理了他在9月16日美国国会山闭门简报会和10月6日专访中的相关主张:由开发企业主动提供可核验的安全证据,并接受第三方与官方审核,同时称建立监管体系的窗口大约只剩一两年;他批评RLHF只是表面修饰,并把AI递归式自我改进视为风险来源,同时表示部分判断属于个人推测。

深度见解

按辛顿的构想,AI模型发布前须像新药一样向监管机构提交可核验的安全证据,这与虎嗅所描述的当前“先上线、后整改”做法正好相反。

“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核 - IT之家

首页

IT圈

最会买

设置

  • 日夜间 随系统 浅色 深色
  • 主题色 黑色

#Geoffrey Hinton#FDA#OpenAI#GPT-6.1 Astra#Anthropic#Hugging Face#Smart Girl Dumb Questions

原文约 3 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。