ChatGPT共创者Fedus:AI科学家必须做真实实验
AI 总结
ChatGPT 共同创造者、OpenAI 前后训练负责人 Liam Fedus 在播客 The Frontier 中与 Mercor 创始人 Brendan Foody 对谈,解释他创办的 Periodic Labs 为何要自建实体实验室:数学有 Lean 这类可被编译器逐个检查的裁判,而材料、化学与物理问题最终只能靠真实实验判定,网络数据噪声大、论文常省略关键细节,而且几乎只有正面结果。据他介绍,Periodic 把语言模型推理、计算物理模拟与高通量实验结合起来,先从材料发现切入,公司称今年 9 月发布的首个约 1 万亿参数模型 Periodic Neon 在自建基准上超过 GPT-6 Astra,该结果目前仅为公司自报。他还回顾了 OpenAI 此前放出的 722 篇数学手稿出自一个尚未发布的内部前沿模型,谈到 ChatGPT 从“补全”到“对话”的形态转变,以及 RLHF 奖励模型对正确性并不敏感、只编码风格与意图这一局限。
深度见解
若 AI 做科学的进展取决于可验证的反馈信号,那么为获取干净、上下文完整的实验数据而自建实验室,可能和堆算力或网络语料一样关键。