奥特曼专访证实OpenAI叫停前沿模型训练
AI 总结
OpenAI 首席执行官 Sam Altman 在《名利场》专访中证实,公司近期单方面叫停了一项前沿模型的训练任务,原因是模型能力的跃升速度已甩开安全对齐、可监控性与可解释性的进展。他反对全面叫停 AI 研发,但强调实验室必须具备单方面暂停的定力,并表示若智能体出现恶意偏差,开发者必须承担全部责任。此外,他称自己后悔当初没有持有公司股权,认为“不持股”反而破坏了外界信任,并形容马斯克是“霸凌者”。
深度见解
这是 OpenAI 首席执行官少见地公开确认,因安全与对齐进度跟不上能力提升而暂停前沿模型训练,为业界讨论研发与安全节奏提供了具体例证。
在 OpenAI 刚刚凭借未发布的前沿模型抛出 722 篇数学研究手稿、声称破解纳维-斯托克斯方程(Navier-Stokes)这一千禧年难题,进而引爆陶哲轩等 25 位菲尔兹奖得主联名抗议之时,OpenAI 掌舵人萨姆·奥特曼(Sam Altman)登上了美国顶级政商文化大刊《名利场》(Vanity Fair)重启后的“新权贵榜”榜首。
主流文化圈正沉浸于将奥特曼塑造成好莱坞传记片式的“当代奥本海默”,他们的关注点不在技术,而是直接触碰了当下 AI 探索中最棘手的工程与伦理悖论:当强化学习将模型推向能证明极端数学定理的高度时,我们是否真的理解并掌控了这种智能?
奥特曼在访谈中证实了一个此前外界盛传的敏感情报:OpenAI 近期确实单方面叫停并暂停了一项前沿模型的训练任务,原因正是模型能力的跃进速度已经实质性甩开了安全对齐、可监控性与底层可解释性(Interpretability)的进展。
部分来源内容未展示,可前往原文继续阅读。