我能把秘密告诉大模型吗？会叫外卖、会工作的智能体更危险

主要观点总结

本文探讨了AI时代隐私保护面临的挑战，随着大模型的广泛应用，用户数据被用于模型训练引发隐私泄露的担忧。文章介绍了大模型在隐私保护方面的做法，包括数据收集、存储、使用和匿名化处理等方面。同时指出隐私政策的复杂性，一些大模型企业在数据使用政策上不够透明，使得用户难以了解数据流向和使用情况。文章还提到了一些风险点，如大模型主动访问设备中的隐私信息以及用户数据可能被用于不当目的等。文章呼吁加强隐私和版权保护的法规和标准，推动企业和用户共同保护隐私。

关键观点总结

关键观点1: AI时代隐私保护面临的挑战

随着大模型的广泛应用，用户数据被用于模型训练，引发隐私泄露的担忧。

关键观点2: 大模型的隐私保护措施

包括数据收集、存储、使用和匿名化处理等方面，但存在改进空间，如政策透明度、用户控制权等。

关键观点3: 隐私政策的复杂性

一些大模型企业在数据使用政策上不够透明，用户难以了解数据流向和使用情况。

关键观点4: 大模型访问设备隐私信息的风险

一些AI应用能够主动访问设备中的大量隐私信息，增加了个人隐私泄露的风险。

关键观点5: 加强隐私和版权保护的呼吁

呼吁加强隐私和版权保护的法规和标准，推动企业和用户共同保护隐私。

文章预览

AI时代隐私保护遭遇新挑战 作者／   IT时报记 者  潘少颖  毛宇 编辑／  钱立富  孙妍 “把这份会议速记的观点提炼出来”“优化年终总结”“我要做一份明年工作计划的PPT”……自从有了大模型，筱筱每天都要给文心一言、豆包等安排活计，既提高工作效率，也可以集百家之长，让工作成果更加“出挑”。 但随着对大模型的依赖与日俱增，筱筱的心中也产生了担忧，“经常‘喂’给大模型素材，免不了涉及工作内容和个人信息，这些数据会泄露吗？”对于很多用户来说，他们不清楚数据如何被收集、处理和存储，不确定数据是否被滥用或泄露。 此前，OpenAI被曝在训练时用到个人隐私数据。有报道称，有企业在使用ChatGPT协助办公的一个月内，接连发生三起隐私泄露事件，多家知名公司禁用ChatGPT。 中国科学院院士何积丰曾表示，大模型面临着 ………………………………