创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Jeff Dean与李飞飞谈AI自我改进

AI 总结

在斯坦福HAI“直面AI的未来”大会上,Jeff Dean与李飞飞讨论了普通自我改进与递归自我改进(RSI)的区别。Dean表示,自动化可以缩短实验迭代时间,但训练、计算、数据处理和验证存在物理限制,因此研发循环无法无限加速。对话还介绍了Discovery Loop,Dean称公司目前运行着约20个自动改进循环,用于探索更快的实验迭代及从既有结果中学习。

深度见解

这场对谈将RSI界定为受到现实条件约束的工程问题,而非无限自我加速的循环,同时披露了Discovery Loop自动化研究循环的具体进展。

在斯坦福HAI的闭幕主题演讲中,Jeff Dean介绍了他离开Google后参与创立的新公司Discovery Loop。它的使命是构建能自动解决机器学习、科学和工程重要问题的AI系统:提出实验、运行实验、评估结果、决定下一步,并让每一轮实验反哺下一轮。随后,李飞飞与Jeff Dean围绕“自我改进”与“递归自我改进”的区别、AI解数学难题带来的冲击、Transformer的起点、技术预测的对错,以及这一代年轻人面对AI时的焦虑展开对话。

以下是他们的对话实录:

李飞飞:先谈谈Discovery Loop。为什么现在要成立这样一家公司?

Jeff Dean:我们的使命是构建AI系统,自动解决机器学习、科学和工程中的重要问题。我们相信,这最终会为世界带来更多发现。很多学科都有一个共同的循环:提出实验,实施并运行实验,观察结果和测量,再决定下一步,通常就是做另一个实验。我们想自动化这类实验循环。如果能缩短迭代时间,自动提出并运行大量实验,从每次评估中学习,让后续实验更好,同时提升实验质量和数量,就可能得到突破性结果。

#Jeff Dean#Fei-Fei Li#Discovery Loop#Stanford HAI#Google#Gemini#Anthropic#METR

原文约 11 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。