在超级智能体面前，人类过于强调自己的智力，会陷入危险

主要观点总结

本文是尤瓦尔·赫拉利与程乐松关于历史、人工智能与超级智能体的对话内容精编。讨论了人类的历史角色，特别是在信息时代的心理变化，对超级智能体的看法与担忧，以及现代社会面临的困境与抉择。两人都表达了各自对于历史与人类未来发展方向的观点，以及对AI发展的不同看法。

关键观点总结

关键观点1: 历史与人类心理的关系

尤瓦尔·赫拉利认为历史不仅是研究过去，也是研究现在和未来的变化过程。在讨论中提及当下信息泛滥时代，人们陷入焦虑和不确定性的情感之中，历史或许可以作为一种集体心理治疗的方式。程乐松对此表示赞同，并强调人类的核心价值在于反思和理解，而非单纯追求技术进步。

关键观点2: 超级智能体的挑战与风险

两位专家对超级智能体的出现表示担忧。赫拉利指出，现代科技领导者过于心急，忽视了人类社会的复杂性以及道德责任。程乐松强调人类的缺陷正是我们的优势所在，因为我们有情感和欲望，而这构成了对未来既有期待又审慎的态度。他提出对于过于依赖超级智能体的行为要保持警惕。

关键观点3: 理论与实践的差距

程乐松和赫拉利讨论了理论与实践之间的差距问题。他们提到人类的基本需求是需要理解外部世界和秩序，但现实生活中的紧迫需求常常使我们妥协。因此，他们强调在理论建设与实践之间取得平衡的重要性。

关键观点4: 人工智能与人类未来的抉择

赫拉利强调当前面临的抉择可能是人类历史上最重要的。他希望更多人了解AI革命带来的风险，从而参与到讨论中。他认为，只有更多国家和更多人积极参与讨论，人类才能做出更好的抉择。而程乐松呼吁人们不要过度恐慌，人类拥有情感是我们的优势所在。

免责声明