创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

Anthropic招股书披露前沿AI风险与创始人投票权

AI 总结

据硅谷101经钛媒体授权发布的文章,Anthropic近期提交的招股书披露了近100页风险因素,其中包括可能威胁人类生存的前沿AI灾难性风险。文章还称,Anthropic无法保证其安全措施一定有效。七位联合创始人上市后将通过特殊股份掌握一般表决事项50.1%的投票权,长期利益信托则有权选举董事会多数成员。创始人可在无法履职时提前指定投票权继任者;相关人选须经内部批准,名单不予公开。

深度见解

这些披露把Anthropic对前沿AI风险的公开警告与公司的治理及投票权安排置于同一背景下,引发了对其安全承诺有效性、问责机制以及未来决策影响者的关注。

(本文作者为 硅谷101,钛媒体经授权发布)

对话|Yiwen、泓君,图文|Yiwen

在近期提交的招股书中,Anthropic透露了将近100页的风险因素。除了常见的金融和市场风险之外,还包括了关于前沿AI所带来的灾难性、甚至威胁人类生存的风险这样的表述。Anthropic说,他们自己也无法保证自己的安全措施一定有效。

招股书还披露,上市后七位联合创始人将通过特殊股份掌握一般表决事项50.1%的投票权;与此同时,还有一个叫做“长期利益信托”的机构,有权选举董事会的多数成员。这套安排的目标,是让公司在追求商业利益时也考虑人类的长远利益。但有媒体注意到了一个细节:创始人可以提前指定,在自己失去履职能力后由谁接替自己的投票权。这些人选需要经过内部批准,但名单是保密的。也就是说,公众目前并不知道,未来谁有可能参与Anthropic的决策。

这份招股书,将AI安全对于Anthropic这家公司的重要性,再一次展现在了公众面前。但与此同时,如果他们的警告成真,那作为公众,我们是否应该有权知道,谁能够代表人类来做决定呢?

#Anthropic#Effective Altruism#METR#OpenAI#Coefficient Giving#Lighthaven

原文约 19 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。