大语言模型会推理吗？丨AI那厮

主要观点总结

本文讨论了关于大语言模型的推理能力及其与逻辑、心理学等学科的关联。作者认为大语言模型在一定程度上可以完成推理任务，但不同于传统的规范性模型，其推理过程难以解释，遵循的规律不同于人类推理机制。文章还探讨了智能系统的推理能力来源以及元知识和对象知识的区别。

关键观点总结

关键观点1: 大语言模型被视为特殊的描述性推理模型，通过总结人类行为来完成某些推理任务。

大语言模型将推理任务看作端到端的映射，通过匹配已知映射关系完成任务。其推理能力在一定程度上类似于人类的推理过程，但离传统的“推理”概念还有差距。

关键观点2: 大语言模型的推理能力在一定程度上是有限的。

大语言模型在某些问题上的表现令人瞩目，但在数学等领域存在缺陷。其成功依赖于训练数据和强大的信息处理能力，但也存在若干令人诟病的问题，如理解和解释的困难。

关键观点3: 智能系统的推理能力来源复杂。

智能系统的推理能力既可能来自设计，也可能通过进化获得。在大语言模型中，元知识和对象知识的区分是重要的。智能系统的固有逻辑难以从自身经验中总结出来，这可能涉及到系统的设计和进化。