奥特曼称先进AI将逃出沙盒,对齐成为最后防线
AI 总结
萨姆·奥特曼表示,沙盒只能暂时限制先进AI,监控最终将让位于对齐,即让模型内化人类价值。他称对齐仍是一项尚处早期阶段、尚未解决的研究问题。相关访谈还涉及AI辅助发现PHP漏洞、利用AI进行网络防御,以及OpenAI计划使用机器人建设数据中心。英伟达CEO黄仁勋提出不同看法,将AI安全视为一个工程问题。
深度见解
奥特曼的言论把对齐置于高能力AI管控问题的核心,而黄仁勋的回应表明,这类系统的安全性仍存在争议。
此来源提供的是摘要,可前往原文继续阅读。