Anthropic称AI辅助开发或很快达到递归自我改进门槛
AI 总结
财联社微信公众号报道称,Anthropic修订后的S-1A文件显示,AI辅助开发可能很快达到该公司内部定义的递归自我改进门槛。据报道,该文件称Anthropic已使用AI开发新模型,进一步使用AI可能使模型研发速度超过其开发、验证和部署安全、校准及保障措施的能力。公司尚未认定任何现有模型超过该门槛,并预计人类将继续参与前沿模型研发。公司还在考虑更新“负责任扩展政策”,但现有报道未确认具体政策变更。
深度见解
这一披露表明,Anthropic可能接近其自行定义的递归自我改进里程碑,同时也强调AI辅助研发的速度可能超过安全措施的开发速度,以及有效人工监督仍属必要。

虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上(收入飙升,但支出也同样飙升),但这家人工智能实验室在细则中又抛出了一颗小炸弹——公司已经非常接近做出具备RSI能力的模型。递归自我改进(RSI),是指人工智能系统以自身改进结果作为输入,不断优化自身能力并修改自身架构,形成......
本文来自微信公众号: 财联社 ,作者:黄君芝
虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上(收入飙升,但支出也同样飙升),但这家人工智能实验室在细则中又抛出了一颗小炸弹——公司已经非常接近做出具备RSI能力的模型。
#Anthropic#OpenAI#Claude#Anthropic Responsible Scaling Policy