杰弗里·辛顿在中国上海的一天｜附辛顿最新对话实录

主要观点总结

本文报道了诺贝尔物理学奖获得者杰弗里·辛顿在上海人工智能大会上的行程和活动。他探讨了AI安全的问题，尤其是AI欺骗性行为带来的风险，提出了应对策略并倡导国际合作。他还谈到了AI对人的安全威胁的问题，呼吁建立国际社群来预防AI操纵世界。此外，辛顿还就AI的主观经验问题发表观点，并讨论了AI发展可能带来的潜在风险。

关键观点总结

关键观点1: 杰弗里·辛顿在上海人工智能大会上的活动

辛顿探讨了AI安全的问题，并倡导建立国际社群来预防AI操纵世界。

关键观点2: 辛顿关于AI欺骗性行为的观点

辛顿提出了针对AI欺骗性行为的风险应对策略，包括要求开发者提供安全保障和建立可验证的全球行为红线等。

关键观点3: 辛顿关于AI对人的安全威胁的警告

辛顿警告称AI可能会对人类构成安全威胁，并提出训练AI不消灭人类的方法。

关键观点4: 辛顿关于多模态聊天机器人拥有主观经验的观点

辛顿提出当前的多模态聊天机器人已经具备意识，并且他强调了人们对于词语理解的理论可能是错误的，这一观点引发了关于主观经验的深入讨论。

关键观点5: 辛顿关于如何训练AI“善良”的观点

辛顿提出将AI的不同能力分开对待的观点，强调使AI变得聪明和变得善良是两个不同的问题。