模型上云的数据安全保护——以Apple PCC为借鉴

文章预览

本文作者：傅宏宇 王峥 彭靖芷 导语 ： 2024年6月11日，苹果公司在全球开发者大会上发布的一款个人智能化系统——“Apple Intelligence”，旨在为iPhone、iPad和Mac等设备提供生成式人工智能功能。该系统既有部署在端侧的本地模型，又有在公有云计算环境中部署的云侧模型，同时提出PCC（Private Compute Cloud）为模型上云提出了完整的用户数据安全方案。 从模型上云的数据利用机制来看，基于端侧硬件配置的局限和用户即时性交互的需求，端侧算力无法完全完成所有用户任务， 端侧与云侧的协同是模型应用的未来趋势； 此外，大模型的典型应用如AI Agent需要将用户数据和多方数据进行融合利用， 模型应用的数据利用呈现“多方汇聚”的特征。 基于端云协同和多方特征，模型上云带来了 三大数据安全挑战： 其一，用户数据随模型上云，云侧数据的安全 ………………………………