Gary Marcus惊世之言：纯LLM上构建AGI彻底没了希望！MIT、芝大、哈佛论文火了

主要观点总结

著名人工智能学者Gary Marcus转推了关于大型语言模型（LLM）的一篇论文，指出LLM存在理解和推理上的问题。论文揭示了一种被称为「波将金式」的推理不一致性模式，并进行了实证研究。Gary Marcus认为这宣告了基于LLM构建通用人工智能（AGI）希望的终结。论文形式化地定义了概念理解的理论框架，并提出了两种衡量波将金现象普遍性的方法。研究发现，波将金现象在各类模型、任务和领域中普遍存在，暴露了模型在概念表征上的深层内在不一致性。

关键观点总结

关键观点1: Gary Marcus对LLM的理解和推理能力提出质疑，认为存在「波将金式」的推理不一致性问题。

他转推了关于此问题的论文，并表达了对此的关注和担忧。

关键观点2: 论文揭示了一种被称为「波将金式」的推理不一致性模式。

论文形式化定义了概念理解的理论框架，提出了衡量这种现象普遍性的两种方法，并通过实证研究发现了问题的普遍存在。

关键观点3: 论文的研究结果显示，波将金现象在各类模型、任务和领域中普遍存在。

这一现象暴露了模型在概念表征上的深层内在不一致性，并且指出了模型内部存在对同一思想的冲突表征。