辛顿:人类或仅剩一两年AI监管准备窗口
AI 总结
在10月6日播出的《Smart Girl Dumb Questions》55分钟专访中,Geoffrey Hinton提出前沿AI应像新药一样在上市前向独立监管机构证明安全,而不是由开发公司自测自评,并称监管与安全准备窗口可能只剩很短时间内。他反对“叫停AI”的二分法,认为监管更像方向盘而非刹车,并给Anthropic CEO Dario Amodei提出的“Pace the Frontier”打出高分,但强调真正的难点是安全要求与融资、产品节奏冲突时企业是否仍愿受约束。他还提到自己最近用GPT重做30年前研究过的wake-sleep算法,把原本约一周的实验反馈回合压缩到几分钟,同时强调问题选择与结果判断仍由研究者承担。
深度见解
作为深度学习先驱与长期风险警告者,Hinton把讨论从“AI是否会失控”推进到具体监管机制与准备时间表,这类表态往往会影响政策与企业安全叙事的走向。