大语言模型复杂推理的自我进化机制：研究综述与前沿展望

文章预览

摘要 OpenAI的O1及其后续竞争者（如DeepSeek R1）的发布显著推动了大语言模型（Large Language Models，LLMs）在复杂推理方面的研究，引发学术界与工业界的双重关注。此项进展激发了相关技术成果的复现和在此基础上的创新。为系统构建该领域的研究框架，本文从自我进化（self-evolution）的角度系统地分类了现有技术。我们的调查发现分为三个相互关联的部分：数据进化（data evolution）、模型进化（model evolution）和自我进化（self-evolution）。 数据进化部分改进推理训练数据，这包括任务进化和增强思维链（Chain-of-Thought，CoT）推理的推理时间计算。 模型进化部分通过在训练过程中优化模型模块，以增强复杂推理能力。 自我进化部分则探讨其进化策略和模式。包括自我进化的规模法则（scaling law）与对 O1 类研究工作的分析。 通过系统梳理相关研究，我们总 ………………………………