后训练时代如何延续Scaling Law？这是你该读的LLM后训练综述

文章预览

机器之心报道 编辑：Panda 现如今，微调和强化学习等后训练技术已经成为提升 LLM 能力的重要关键。 近日，一份围绕 LLM 后训练的综述报告收获了不少好评，其整理相关论文和工具的资源库已经收获了超过 700 star。 该综述来自阿联酋人工智能大学、中佛罗里达大学、谷歌 DeepMind 和牛津大学等多所机构，涵盖通过强化学习增强 LLM 的技术、监督式微调、测试时扩展以及 LLM 后训练基准评估等内容。 论文标题：LLM Post-Training: A Deep Dive into Reasoning Large Language Models 论文地址：https://arxiv.org/abs/2502.21321 资源库：https://github.com/mbzuai-oryx/Awesome-LLM-Post-training 机器之心在下面简要整理了该综述报告的内容主干，更多详情请访问以上链接。 近些年，大型语言模型（LLM）的能力在不断提升，应用领域也在急速扩展。尽管如此，仍有问题存在。 比如 LLM 可能出现所谓的 ………………………………