AI 编程实时动态与要闻

长期以来，深度神经网络普遍被视作极端非线性（Non-linear）的黑盒映射函数。然而最新前沿可解释性研究《Your Transformer Can Hold Two Thoughts at Once: Evidence of Linear Superposition in LLMs》（arXiv:2609.29845，社区超百赞）给出了颠覆性的数学与实证发现：Transformer 底座在本质上展现出惊人的“叠加线性性（Linear Superposition）”——当向模型线性组合输入两条完全独立的文本流时，输出的预测 Logits 严格呈现为两组独立下一个 Token 分布的线性叠加态！虽然该天然线性在自回归预训练后期因过度饱和会有所衰退，但研究证明仅需轻量级低秩微调即可完全恢复该叠加特性。团队更进一步设计了引导式解码算法（Guided Decoding），在单次模型前向计算（Single Forward Pass）中即可无损解耦出两条连贯独立的长文本续写，为大模型推理并发度拓展开启了全新的理论大门。

查看大图

顶尖大模型可解释性与架构研究团队在 Hugging Face 与 ArXiv 正式公开了《Your Transformer Can Hold Two Thoughts at Once: Evidence of Linear Superposition in LLMs》（arXiv: 2609.29845）。长期以来，主流学术界认为包含复杂自注意力与非线性激活函数的大语言模型是高度不可拆解的黑盒。该研究颠覆性地提出了“叠加线性假设（Superposition Linearity Hypothesis）”，实证揭示了当把两段截然不同的文本流在输入端进行线性加权融合时，Transformer 底层不仅不会发生语义崩溃，反而会在输出端呈现两个独立分支下文概率分布的完美线性叠加。研究团队进一步提出了引导式解纠缠解码算法，实现了仅凭一次模型前向推演，即可并发吐出两条完全连贯通顺的语义回答。

查看大图