奥特曼据报向员工提出三条AI终局路径
AI 总结
据 The Information 援引知情人士报道,OpenAI CEO 奥特曼上周在内部向员工介绍了业界讨论过的三条 AI 安全发展路径,OpenAI 尚未证实这一说法。三条路径分别是:建立类似国际原子能机构的国际组织来执行安全标准;仿照欧洲核子研究中心把各前沿实验室合并为单一实体,由其研发并向合作国家提供模型;以及奥特曼称为“Eliezer 方案”的情形——某家实验室借助递归自我改进大幅领先,进而切断其他所有开发者的算力,他表示这一条显然很糟糕,列出只是为了完整性。据报道,奥特曼称 OpenAI 需要在未来一年内决定推动哪条路径,并强调希望人类始终掌控这项技术、避免行业权力过度集中。
深度见解
据 The Decoder 报道,奥特曼这次内部表态之际,特朗普政府正着手制定其首套针对超级智能开发商的监管框架。
此来源提供的是摘要,可前往原文继续阅读。
#OpenAI#Sam Altman#Anthropic#Google#DeepMind#Meta#Nvidia#International Atomic Energy Agency#CERN#Standards Authority for Frontier AI#Demis Hassabis#Eliezer Yudkowsky