对话院士邬江兴：如今的大模型，100%不安全且不可信！丨 WeTalk

主要观点总结

本文探讨了AI的伴生安全问题，以及大模型的安全性和可信度问题。专家邬江兴指出，100%的大模型都是不可信的，需要通过相对可信而不是绝对可信来评估模型。他建议采用多样性和必要冗余的方法来构建相对可信的AI系统，并强调单一模型存在安全风险。同时指出用AI解决AI安全问题是一个伪命题。

关键观点总结

关键观点1: 专家观点：100%大模型不可信

邬江兴指出，所有的大模型都存在安全风险，没有绝对的可信性。需要通过相对可信来评估每个模型，而不是追求绝对可信。

关键观点2: 多样性和必要冗余的重要性

邬江兴强调采用多样性和必要冗余的方法来构建相对可信的AI系统。通过结合多个模型，可以降低单一模型的风险，并提高系统的整体安全性。

关键观点3: AI安全问题的挑战

邬江兴提到控制论的第一性原理叫必要多样性，任何一种单一的东西都可能是不完美的。因此，用AI解决AI的安全问题是一个伪命题。他建议通过多个模型的共同工作来解决问题，提高系统的安全性。

关键观点4: 闭源模型的安全问题

邬江兴指出，闭源模型存在安全风险，因为一旦遭到破坏，可能会导致整个系统的崩溃。他强调必要多样性，即使某个模型被破坏，其他模型仍然可以正常工作。

关键观点5: 多样动态异构冗余架构

邬江兴提出了多样动态异构冗余架构作为解决AI安全问题的设计结构。该架构旨在提高系统的安全性，通过主备或动态备份和静态备份的方式来实现。

免责声明