LLM安全警报：六起真实案例剖析，揭露敏感信息泄露的严重后果

概述今年以来，大语言模型（LLM）及相关技术飞速发展，不断刷新人们对于人工智能的认知。与此同时，LLM敏感信息泄露（Sensitive Information Disclosure）备受关注，恶意使用者可能会通过技巧来获取和利用与LLM相关的敏感信息并用于恶意目的，如个人身份信息、商业机密或其他有价值的数据，对个人和组织造成损害[1]。在今年8月份，全球开放应用软件安全项目组织（OWASP）发布了针对LLM应用的Top10（OWASP Top10 for LLM [1]）潜在安全风险。敏感信息泄露赫然位列第六，已然成为LLM技术应用推广过程中不可忽视的安全问题。敏感信息泄露是指在LLM在使用的过程中，可能会在回复中包含敏感机密的数据或信息，进而导致未授权的数据访问、隐私侵犯、安全漏洞等风险。伴随着LLM敏感信息泄露事件的增加，各国人工智能监管相关单位明确指出LLM可能发生敏感信息 ………………………………