AI模型不存储个人数据？德国汉堡数据保护局关于LLM和GDPR的关系讨论文件穿透技术和法律！

主要观点总结

本文是汉堡数据保护和信息自由专员发布的关于大型语言模型（LLMs）与个人数据的讨论文件。文章主要探讨了通用数据保护条例（GDPR）对LLMs的适用性，并详细阐述了LLMs的技术原理、个人数据在LLMs中的存储方式以及实践影响。文章旨在促进企业和机构更清晰地界定数据保护法规的复杂性，并提供了关于LLMs在实际操作中的指导。

关键观点总结

关键观点1: LLMs不存储个人数据，而是处理语言的Tokens和Embeddings。

大型语言模型（LLMs）是通过处理语言的Tokens和Embeddings来理解语言的。个人数据不会以原始形式存储在模型中，而是通过模型的训练过程转换为抽象的数学表示。

关键观点2: GDPR对LLMs的适用性。

根据GDPR的规定，如果LLM作为AI系统的一部分处理个人数据，这些数据处理活动必须符合GDPR的规定。特别是AI系统的输出部分，必须能够实现对数据主体的权利。

关键观点3: 个人数据在LLMs中的处理涉及数据主体的权利。

虽然LLM本身不存储个人数据，但数据主体的权利仍然可以在AI系统的输入和输出方面得到体现。例如，如果AI系统提供了关于数据主体的错误个人信息，数据主体可以要求信息更正或删除。

关键观点4: 使用个人数据训练LLMs必须遵循数据保护法规。

使用个人数据训练LLMs必须遵循数据保护法规，并考虑数据主体的权利。即使训练过程可能违反数据保护法规，也不影响在AI系统中使用该模型的合法性。

关键观点5: LLMs的实践影响。

LLMs的使用对实践产生了广泛的影响。例如，公司或机构在选择和使用LLMs时，需要遵循GDPR的规定，确保数据的合法性和安全性。同时，他们还需要采取措施防止隐私攻击和个人可识别信息的提取。

文章预览

1. 摘要 本文是汉堡数据保护和信息自由专员发布的关于大型语言模型（LLMs）与个人数据的讨论文件。文件的核心目的是探讨通用数据保护条例（GDPR）对LLMs的适用性，并对公司和机构在数据保护法律问题上提供指导。文章首先阐明了AI系统与LLMs的区别，并深入讨论了LLMs的工作原理，特别是Token化过程和信息存储方式。接着，文章分析了LLMs在处理个人数据时的法律地位，以及它们在训练过程中使用个人数据的合法性问题。文章最终提出了三个基本论点，并探讨了这些论点对实践的影响。 I. 引言 引言部分提出了LLMs在处理提示（Prompts）时可能会输出包含个人数据的信息，这引发了LLMs是否存储个人数据的问题。文章强调了区分AI系统和LLMs的重要性，并以Chatbots为例，说明了用户输入在LLMs处理之前的处理流程。 II. LLMs的技术评估 Token作为信息处理的基础 ………………………………