图灵奖和诺奖双料得主辛顿最新演讲：别嘲笑AI“幻觉”，你的记忆本质也是一场“虚构”

主要观点总结

本文介绍了Geoffrey Hinton在澳大利亚霍巴特发表的关于AI和人类智能的里程碑式演讲。他提出人类与AI在理解和记忆机制上的相似之处，并阐述了数字AI相较于碳基大脑的优势。同时，他也探讨了超级智能的潜在风险以及人类如何控制AI的发展。文章还提到了AI如何超越人类智慧以及人类最后的疑问。

关键观点总结

关键观点1: Geoffrey Hinton在演讲中揭示了AI和人类在理解和记忆机制上的相似之处，并指出AI即将拥有“永生”和“万脑互联”的能力。

Hinton通过“乐高”和“SCUMM”的例子，从物理层面定义了什么是“理解”，并阐述了AI如何理解句子。他还用“虚构记忆”这一概念，打通了人脑和电脑的隔膜，承认AI像人一样“虚构”，即承认AI拥有了类似人类的思维机制。

关键观点2: 辛顿提出了数字AI超越碳基大脑的优势，包括知识的共享与永生、群体思维实体化等。

辛顿强调了知识的共享与永生是AI超越人类的关键。他还提到了教育的本质局限以及AI打破个体界限实现真正的群体思维实体化的潜力。

关键观点3: 辛顿探讨了超级智能的潜在风险，包括小老虎难题、AI的涌现能力和危险倾向等。

辛顿提到了AI可能带来的危险倾向，如欺诈、勒索和生物武器等。他还强调了准确评估AI的真实智力的重要性。

关键观点4: 辛顿提出了人类控制AI发展的方法，包括建立母子关系和国际合作等。

辛顿认为，建立母子关系是控制AI发展的终极解法。他还强调了国际合作的必要性，并呼吁人们关注AI安全研究经费的分配问题。