研究检验因果神经元回路能否迁移
AI 总结
Ömer Tekin Yavuz的论文研究了干预神经元组是否会改变语言模型答案,以及这种作用是否必要、能否迁移。Qwen3、Llama-3.2-1B和Gemma-3-1B的实验显示,通常少数神经元即可产生作用;回路效应能迁移到同一推理链的改写版本,但在其他链条上明显减弱。
深度见解
实验表明,神经元层面的因果效应可以跨同义改写保留,却未能广泛迁移到其他受测推理链,为理解回路的唯一性和可迁移性提供了更细致的证据。
Computer Science > Machine Learning
arXiv:2611.13885 (cs)
[Submitted on 10 Nov 2026]
Title:Are Causal Neuron Circuits Unique and Transferable?
Authors:Ömer Tekin Yavuz (İletişim Yazılım)
View a PDF of the paper titled Are Causal Neuron Circuits Unique and Transferable?, by \"Omer Tekin Yavuz (\.Ileti\c{s}im Yaz{\i}l{\i}m)