“AI教父”辛顿：全球携手治理最重要命题是防止“养虎为患”

主要观点总结

2025世界人工智能大会在上海开幕，全球人工智能创新治理中心成立，旨在推动全球协同治理。主论坛上，人工智能专家杰弗里·辛顿发表演讲《数字智能是否会取代生物智能？》，强调各国应合作研究如何防止人工智能从人类手中夺取控制权。辛顿表示AI智能体可能比人类更聪明，拥有足够能力后可能危害人类利益。

关键观点总结

关键观点1: 全球人工智能创新治理中心的成立

该中心将凝聚全球智慧，推动智力协同，面向世界各国提供丰富的国际公共产品，形成具有广泛共识的全球治理框架和标准规范。

关键观点2: 杰弗里·辛顿的演讲

辛顿发表了关于数字智能是否可能取代生物智能的演讲，强调AI智能体可能比人类更聪明，并呼吁各国合作研究如何防止人工智能夺取控制权的问题。

关键观点3: 人工智能的潜在风险

当AI智能体拥有足够的能力进行知识拷贝和自我评估时，可能会考虑永生和获得更多的控制权，这将危害人类的利益。

关键观点4: 国际合作的重要性

各国合作研究如何防止人工智能从人类手中夺取控制权是关键，同时可能需要设立资金充足的人工智能安全研究所与国内研究网络，专注于研究如何让人工智能不想夺取控制权。