解构 RAG

◆上下文在最近关于大型语言模型（LLM）状态的概述中，Karpathy将LLM描述为一种新型操作系统的内核进程。就像现代计算机具有 RAM 和文件访问权限一样，LLM 也有一个上下文窗口，可以加载从众多数据源检索到的信息。检索是新 LLM 操作系统的核心组件这些检索到的信息被加载到上下文窗口中，并用于 LLM 输出生成，该过程通常称为检索增强生成 （RAG）。RAG 是 LLM 应用程序开发中最重要的概念之一，因为它是一种将外部信息传递给 LLM 的简单方法，与需要事实回忆的问题进行更复杂/复杂的微调相比具有优势。通常，RAG 系统涉及：确定要检索哪些信息的问题（通常来自用户）、从数据源（或多个来源）检索该信息的过程，以及将检索到的信息作为提示的一部分直接传递给 LLM 的过程（请参阅此处的 LangChain 中心中的示例提示）。◆挑战近几个月来，RAG ………………………………