AI教父杰弗里·辛顿：做真正原创性的研究，应该寻找“所有人都做错了”的领域 |【经纬低调分享】

主要观点总结

本文报道了杰弗里·辛顿在中国上海参加人工智能相关会议的情况。他讨论了AI安全、AI意识、安全风险和全球合作等问题，强调人工智能向善的重要性。文章介绍了他的观点，如目前的多模态大模型已具备主观经验、AI的风险和潜在利益，以及他对于年轻科学家的建议等。

关键观点总结

关键观点1: 杰弗里·辛顿在上海人工智能大会上的演讲和讨论

杰弗里·辛顿在会议上重点讨论了AI的安全问题，包括AI的欺骗行为、AI风险的应对策略等。他还强调了人工智能向善的重要性，并呼吁国际合作来建立AI安全机构。

关键观点2: 关于AI意识和主观经验的讨论

辛顿提出了关于AI意识和主观经验的观点，他认为目前的AI已经具备主观经验，但这种理解不是基于科学的，而是基于对术语的理解和对现实世界的感知的误解。

关键观点3: 关于人工智能安全的全球合作策略

辛顿强调国际合作在人工智能安全领域的重要性，并提倡通过全球合作来推动人工智能的良性发展，提出了构建国际社群来预防AI操纵世界的观点。

关键观点4: 对年轻科学家的建议

辛顿鼓励年轻科学家寻找自己认为所有人都做错了的领域进行原创性研究，并坚持自己的直觉，不因他人的反对而改变方向，认为这是重大突破的来源。

免责声明