大模型“裂脑”缺陷曝光：科学家提出⼤模型计算裂脑综合征概念，揭示Transformer三大硬伤

主要观点总结

本文介绍了亚马逊云上海人工智能研究院院长张峥关于大模型存在的问题的最新研究，他提出了计算裂脑综合征的概念，阐述了大模型的三个根本性缺陷。张峥通过受控实验揭示了这种现象的根本原因，并指出当前Transformer架构存在的三个相互依赖的约束条件。文章还提到了张峥对于大模型的可解释性问题的看法，以及他的研究对下一代智能系统的启示。

关键观点总结

关键观点1: 张峥提出计算裂脑综合征的概念，阐述大模型的根本性缺陷。

大模型能够流利地解释原理，却无法可靠地执行这些原理。涉及多个步骤的问题，即便看上去简单也常出错。

关键观点2: 张峥通过受控实验揭示了计算裂脑综合征的根本原因，在于Transformer架构的三个相互依赖的约束条件。

这三个约束是上下文平均化、计算不可能性和指令执行分离。单独的任何一个约束都不会致命，但它们系统性地相互强化，阻止了大模型在理解和能力之间建立可靠的桥梁。

关键观点3: 张峥的研究对下一代智能系统有启示作用。

他提醒可解释性研究者，狭窄范围内的可解释性研究缺乏泛化性。大模型需要元认知脚手架、提升表示能力、原则性执行的架构支持，以完成推理而非仅仅反应的系统。