Geoffrey Hinton Calls for FDA-Style Safety Approval Before AI Releases
Geoffrey Hinton proposed that AI companies should demonstrate the safety of their systems to regulators before releasing them, using the U.S. Food and Drug Administration’s drug-approval process as an analogy. He also warned that AI-assisted self-improvement could accelerate capability gains and increase risks, while acknowledging that his estimate of a much worse situation within one or two years was speculation.
Why it matters: The proposal highlights a major policy debate over whether pre-release safety checks should be mandatory for advanced AI systems.
-
日夜间
随系统
浅色
深色
-
主题色
黑色
业界 手机 电脑 测评 视频 AI 苹果 iPhone 鸿蒙 软件
智车 数码 学院 游戏 直播 5G 微软 Win10 Win11 专题
“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核
2026/10/7 12:32:57 来源：IT之家 作者：远洋 责编：远洋
IT之家 10 月 7 日消息，杰弗里 · 辛顿（Geoffrey Hinton）希望 AI 企业跨过一道制药行业早已熟悉的监管门槛。
在当地时间周二播出的《Smart Girl Dumb Questions》播客节目当中，这位被称作“AI 教父”的诺贝尔奖得主、计算机科学家提出建议：AI 公司在产品正式发布之前，必须先向监管机构证明自身产品具备安全性。
“你不能直接研制一款新药就把它推向市场。”辛顿对播客主持人纳伊玛 · 拉扎（Nayeema Raza）说道，“你必须说服美国食品药品监督管理局（FDA）。而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。”
“对于人工智能而言，至少也应当设立这样的要求。”辛顿补充道。
辛顿针对 AI 安全争议提出这套解决方案的背景，一方面是各界不断出现关于 AI 带来灾难性后果的预判；另一方面，OpenAI 在测试之后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。
IT之家注意到，OpenAI 安全系统负责人萨奇 · 贾恩（Saachi Jain）此前接受《商业内幕》采访时表示，GPT‑6.1 Astra 模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。
辛顿提出，人工智能正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。
“指数级的增长速度是十分惊人的。”辛顿说，“我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助 AI 本身去改良 AI。”
“当然，这仅仅属于我的推测。”辛顿补充说，“但我估计，距离局面远比现在糟糕，大概也就只剩一两年时间了。”
下载IT之家APP，签到赚金币兑豪礼相关文章
- 哈佛大学心理学家：渲染“AI 末日”无助于应对风险，应审慎开展安全工程
- 20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进
- “AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险
- 黑客在暗网兜售 AI 模型访问权限，最低价仅有正版 3%
- OpenAI 奥尔特曼、 Anthropic 阿莫迪罕见“同台”，呼吁全球合作应对 AI 安全
- 路透社民调：近四分之三美国人认为 AI 公司在防止灾难方面做得不够
How we got here
- WIRED Reviews ‘Artificial,’ a Dark Comedy About OpenAI and AI RiskWIRED AI · OpenAI
- Sam Altman says AI regulation should tolerate some harmful outcomesTechSpot · OpenAI
- Personal AI competition shifts from chat to continuous delegation虎嗅 AI · OpenAI
- Insurers Prepare for AI Agent Liability ClaimsThe Decoder · OpenAI
- Atlassian and OpenAI Expand Enterprise AI PartnershipOpenAI · OpenAI
- Interconnects: open-weight cyber-risk discourse is brokenInterconnects · OpenAI