深入剖析大模型安全问题：Langchain框架的隐藏风险

作者：jifeng随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。从今年 4 月 Langchain 被爆出在野 0day 漏洞开始，各类安全问题不断出现。腾讯安全平台部将持续关注大模型的应用安全，详细解读在大模型应用时代，如何与时俱进地保持安全策略，以保障大模型安全、可靠地应用。一 ：从攻击面浅谈 Langchain 工作流程及安全Langchain 作为一个大语言模型应用开发框架，高效地解决了开发大语言模型应用的痛点问题。Langchain 最主要的特色是可以将 LLM 应用研发过程中的交互 Prompt、LLM 模型调用、语言模型与环境互动的自适应等方式融为一体。Langchain 提供各类模块支持，按照复杂性依次是模块、提示、内存、索引、链、代理， ………………………………