Story

超越所有人类的AI，很可能在几年内出现。

说这话的，是Anthropic强化学习技术负责人Sholto Douglas。

Anthropic强化学习技术负责人Sholto Douglas：能力超过所有人类的模型，很可能在未来几年内出现。

在他的设想里，未来AI能完成人类在电脑上做的所有工作，把原本需要几个世纪的科技进步，压缩到一二十年。

他还推算，2028年AI年度资本开支可能达到4万亿美元，全球GDP则可能在2030年代初翻倍。

而在他描绘的未来，地球上的每个人，都能享有连今天的首富也无法拥有的富足。

但同场的另一位研究员Nick Marwell也提醒：当AI不再需要人类搭档，连他们都会对后果「非常紧张」。

这期访谈8月录制，直到10月2日才上线。

据主持人Joe Lonsdale说，因Anthropic公关反对放出部分内容所以视频发布被推迟。

节目一经播出，几段访谈切片迅速在X上炸了。

就在一个月前，OpenAI喊出「AGI时代」时，Sholto还在X上唱反调：「AGI显然还没有实现。」

不过，他并不认为AGI还很遥远。

在他看来，距离AI能完成人类在电脑上做的所有工作、真正跨过AGI的门槛，可能只剩下几年。

几年内 

AI可能超越所有人类 

这次和Sholto同台接受采访的Nick Marwell负责长程任务团队，研究如何让AI持续推进复杂工作。

左起：主持人Joe Lonsdale、Nick Marwell、Sholto Douglas。Joe Lonsdale是Palantir联合创始人，节目在加州纳帕的一座酒庄录制。

Joe问「Anthropic接下来的使命是什么」，Sholto回答：

我们认为，AGI在未来几年内就能实现：能力等于甚至超过所有人类的模型，很可能在未来几年内出现。

他随后解释，这样的模型能做人在电脑上能做的所有事；等机器人足够先进，也能覆盖物理世界里的工作。

这期节目录完没多久，OpenAI发布GPT-6 Astra，总裁Greg Brockman说我们正在进入AGI时代，黄仁勋更是直接发帖宣布「AGI已经到来」。

9月23日，有网友在X上追问：Anthropic迟迟不宣布实现AGI，到底是标准更高，还是怕一宣布，就和给AI减速的主张打架？

Sholto只回了一句：「AGI显然还没有实现。」

没多久，他在Anthropic做微调的同事Jackson Kernion就在同一条帖子下回复：要是十年前把今天的模型拿给专家看，他们会直接宣布这就是AGI。

同一家实验室里的研究员，对AGI是否到来也有不同的看法。

Sholto给AGI定的门槛，是AI能完成人类在电脑上做的所有工作。

而他所感受到的变化，就发生在自己的日常工作中。

18个月前，他写的每一行代码都是手敲的。

进Anthropic几个月后，模型能帮着写，但每隔几分钟他就得插手。

等到录节目时，他已经能把一两天的活整个交给模型，「基本就像一个初级团队成员」。

Joe追问：「我们说话这会儿，AI也在替你干活？」Sholto回答：「对，有一堆正在替我干。」

数学领域的跃迁，更是惊人。

他还举了数学评测FrontierMath的例子：在这套由各领域教授出题的测试上，模型成绩一年里从0%升到了60%以上。

1万亿、2万亿、4万亿 

几年内造出超越所有人类的AI，这个账单能有多大？

Sholto算了一笔账。

按他的估算，过去四五年，用于AI的算力每年增至前一年的两到三倍。今年，几家超大规模云厂商的AI相关资本开支，合计约1万亿美元。

他接着问：

这条趋势线还能延续吗？明年会不会到2万亿，2028年再到4万亿？

在他看来，如果投资增长趋势大体延续，2028年AI年度资本开支就可能达到4万亿美元；再加上机器人产业的发展，到2030年代初，全球GDP就可能翻倍。

这个数字有多激进，看英伟达就知道。

英伟达曾预计，到2030年，全球AI基础设施的年度投入可能达到3万亿至4万亿美元。

Sholto将英伟达预测的时间点向前推进了两年。

但他自己也承认，GDP翻倍听起来有点荒唐，需要很多事情都做对，这也并非他临时起意。

8月14日，他就在X上写过， 「现在听着再疯，也值得把经济翻倍算进你对2030年代的预期里」。

Nick则谈到了另一笔账：未来单次模型训练，可能耗资100亿、1000亿，甚至1万亿美元。

智能的经济回报是指数级的，从Tab补全到能独立干活的Claude Code，每一次能力升级，所能创造的价值都可能远超上一代。

Sholto跟着补了一个数字：今天全世界的AI收入加起来，也就1000多亿美元，放进几十万亿美元的全球经济里，只是很小的一块。

在他们的账本里，眼下砸下去的万亿美元，只是一笔首付。

这笔账一出，X上立刻吵翻了。

AI圈头号唱衰派、纽约大学荣休教授Gary Marcus直接把这段话叫作疯话。

他还点破了其中的话术。

从一件很可信的事讲起，资本开支涨到4万亿，接着再滑到一件几乎不可能的事，不到十年GDP翻倍，然后装作两件事一样靠谱。

LSTM之父Jürgen Schmidhuber更损。他说，2030年代初让GDP名义翻倍，照现在这个通胀，不成问题。

人人都比首富更富足 

4万亿美元砸下去，换来的是Sholto所描述的一个「后稀缺」的世界。

以今天的人口规模，原本需要几个世纪才能研发出来的技术，可能在未来十年、二十年内实现。

人类的生产性脑力和体力可能因此翻倍，许多东西的成本最终降到能源成本，连建房也一样。

Joe顺势畅想，到那时中产阶级都能在山上盖一座50万平方英尺的大宅。

Sholto描绘的未来，还包括治愈疾病，甚至攻克衰老：

地球上的每个人，都能享有连今天世界上最富有的人也无法拥有的富足。这就是我们为之奋斗的世界。

「后稀缺」这个词，过去多半出现在科幻小说里。

如今，它出现在一个正在一家估值近万亿美元的公司里训练Claude的人之口。

用不着人类搭档的那一天 

「后稀缺」的世界还远，很多人的工作却已经开始变化。

Sholto说，他看到菲律宾外包呼叫中心的就业不降反升，软件工程就业也在增长。他认为，AI提高了人的效率，让企业有理由招更多人。

Nick给这段好日子加上了一个前提：人仍是用好AI的关键一环。

但在他们看来，总有一天，世界会从「需要一个人配着AI，才能发挥全部价值」，变成「不需要」。

到那时，我们会开始对后果非常紧张。

Joe拿国际象棋打比方：整整30年，最强的棋手是「人加机器」，如今机器早就把人甩开了。Nick则认为这次人机搭档占优的阶段，可能短得多。

一边说AI强到能让人失业，一边呼吁全行业放慢，Anthropic也因此被骂得最多。

Joe直接抛出质疑：

一些科技圈人士认为，Dario在吓唬所有人，好制定更多规则拖慢别人，自己再掌控这些规则。

Sholto回答：「到目前为止，被我们拖慢最多的，是我们自己。」

Nick举了Fable的例子。

按他的说法，Anthropic当时手握明显领先的模型，却选择先与政府合作，以政府认可的方式推出，为此放弃了几个月的竞争优势。

Joe则说，据他了解，为了让政府放行，模型原本可用于网络防御的一些能力被削弱了。他直言：「我觉得这是个错误。」

今年6月，Fable 5上线仅三天，就因美国出口管制被迫全球下线，Anthropic对此公开表示反对。恢复访问时，模型新增了一道安全分类器，代价是更容易误伤正常编程请求。

这段与政府的合作中，既有Anthropic的主动选择，也有政府的强制要求，因此不能全算作自愿放缓。

「拖慢最多的是自己」，是Sholto在8月录制节目时说的。

等到10月节目播出，踩刹车的换成了OpenAI。

据路透社9月28日报道，OpenAI因安全问题放弃发布GPT-6.1 Astra。同一天，Anthropic推出Sonnet 5.5，距离Opus 5.5发布仅过去六天。

几个世纪被压进十年 

Sholto自己的经历，也是一段加速的故事。

他在悉尼长大，本科学机器人，还差一点作为花剑运动员进了东京奥运会。

2020年前后，他读博客和论文，确信scaling能在2020年代带来AGI，于是利用晚上和周末自学研究，争取进入顶尖AI实验室。

后来他进了DeepMind，入行才一年半，Noam Brown就评价他是Gemini成功背后最重要的人之一。

2025年2月加入Anthropic时，他发帖说，我们正走在2027年实现AGI的趋势线上。

一年半过去，他的口径一点没松。

他预计到2028年，家庭里可能已有几万台人形机器人叠衣服、做简单清洁。

AI获菲尔兹奖、在这个十年结束前拿诺贝尔奖，他都认为很有可能。

从2020年读着博客押注AGI，到今天说出「几年内超越所有人类」，Sholto只用了六年。

而在他推算的那条曲线上，接下来的每一年，人类砸进AI的钱都要再翻一倍。

参考资料：

https://x.com/ChrisGPT/status/2106626782052950445 

https://www.youtube.com/watch?v=6D1wC95htTM 

https://x.com/AmOptimistShow/status/2106115609306226982 

https://x.com/JensenHuang/status/2096700264569090384 

编辑：摩西 元宇

本文来自微信公众号 “新智元”（ID：AI_era），作者：ASI启示录，36氪经授权发布。