创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

博客称三款模型能从权重文本读出网络功能

AI 总结

Arcturus Labs 的一篇博客文章经 Reddit 用户 /u/jnbrymn 转述,称 Astra、Opus 5.5 和 Muse Spark 1.3 都判断出一个 17,253 参数的神经网络(以纯分词文本形式给出)实现的是吃豆人,并称 Astra 仅用极少推理就完成了。文章指出并无人撰写过解释具体权重作用的文章,因此给出两种可能来源:实验室专门训练了这一能力,或模型的泛化能力远超预期。所给材料未包含方法细节,也没有独立验证。

深度见解

若属实,说明当前模型可能已能从权重文本读出网络行为,这对评估和理解模型能力具有直接参考意义。

Give a model a 17,253-parameter net as plain tokenized text and it works out the net plays Pac-Man. Astra, Opus 5.5 and Muse Spark 1.3 all got it, and Astra did it with minimal reasoning.

Nobody writes essays about what specific weights do, so where does this skill come from? Either labs trained it in, or models generalize much further than I expected. I'm leaning toward the second and it's freaking me out a little.

https://arcturus-labs.com/blog/2026/11/03/ai-can-read-neural-network-weights-i-wasnt-ready-for-that/

submitted by /u/jnbrymn [link] [comments]

#Arcturus Labs#Astra#Opus 5.5#Muse Spark 1.3

原文约 1 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。