行业首份智能体安全白皮书在WAIC发布：为终端智能体安全提供风险评估指南（附下载链接）

主要观点总结

在世界人工智能大会期间，由中国信息通信研究院举办的“大模型智塑全球产业新秩序论坛”上，发布了《终端智能体安全2025》白皮书。该白皮书首次系统梳理了智能体的风险分类、风险评估及防御策略，并覆盖了单智能体设备、多智能体协同以及AI终端生态的全面挑战。白皮书强调了智能体在多个行业中的重要作用，并指出了随着AI技术的发展，终端智能体的风险边界在不断扩大。为了应对这些安全风险，白皮书提出了三大防护路径，并强调了构建‘可信’的智能体协作环境的重要性。作为发布单位之一，IIFAA联盟呼吁整个生态共同完善智能体可信基础设施，共建智能体可信互连生态。

关键观点总结

关键观点1: 白皮书发布

在中国信息通信研究院举办的论坛上，上海人工智能实验室、信通院、蚂蚁、IIFAA联盟联合发布了《终端智能体安全2025》白皮书，这是关于智能体安全风险的首次系统梳理。

关键观点2: 智能体的风险与挑战

白皮书覆盖了智能体的风险分类、如何发现风险、如何防御风险，并指出了随着AI技术的发展，终端智能体的风险边界在不断扩大，涉及数据泄露、模型行为、身份伪造、环境感知误导和算法伦理等深层问题。

关键观点3: 智能体在安全领域的作用

白皮书强调了智能体在生活、工业、医疗、教育等多个行业中的重要作用，并指出它们正在重新定义这些行业的交互方式。

关键观点4: 应对安全风险的措施

为了应对高度复杂、层层递进的安全风险，白皮书提出了三大防护路径：单智能体安全、多智能体可信互连和AI终端安全。同时，还强调了构建‘可信’的智能体协作环境的重要性。

关键观点5: IIFAA联盟的呼吁

作为发布单位之一，IIFAA联盟呼吁整个生态共同完善智能体可信基础设施，共建智能体可信互连生态，并共同制定跨智能体交互的相关安全技术规范。

免责声明