专栏名称: 机器之心
专业的人工智能媒体和产业服务平台
今天看啥  ›  专栏  ›  机器之心

绝对零监督Absolute Zero:类AlphaZero自博弈赋能大模型推理,全新零数据训练范式问世

机器之心  · 公众号  · AI  · 2025-05-08 09:37
    

主要观点总结

本文介绍了研究团队提出的全新的推理训练范式——Absolute Zero,该范式使大模型无需依赖人类或AI生成的数据任务,即可通过自我提出任务并自主解决,实现「自我进化式学习」。文章详细描述了Absolute Zero Reasoner(AZR)的训练流程、双重角色、三大推理方式以及自我学习算法等,并给出了实验结果和分析。

关键观点总结

关键观点1: 全新的推理训练范式:Absolute Zero

研究团队提出了一种全新的推理训练范式——Absolute Zero,该范式打破了现有大模型训练对高质量人工数据的依赖,实现了真正意义上的「零人工数据推理模型」。

关键观点2: 首个具体实现系统:Absolute Zero Reasoner(AZR)

为了验证和实现Absolute Zero这一全新推理训练范式的可行性,研究团队提出了首个具体实现系统——Absolute Zero Reasoner(AZR)。AZR是一个统一的大语言模型系统,能够在训练过程中同时担任任务提出者与求解者两个角色,实现无需人工数据的自我进化学习。

关键观点3: 实验结果与表现

实验结果显示,AZR在多个代码生成与数学推理的异分布基准测试中表现出卓越的通用推理能力,甚至超越了依赖人工高质量数据训练的最先进模型。此外,AZR在不同模型规模和架构上均具有良好的可扩展性,为未来进一步放大模型能力提供了可行性依据。


文章预览

在人工智能领域,推理能力的进化已成为通向通用智能的核心挑战。近期,Reinforcement Learning with Verifiable Rewards(RLVR)范式下涌现出一批 「Zero 」类推理模型,摆脱了对人类显式推理示范的依赖,通过强化学习过程自我学习推理轨迹,显著减少了监督训练所需的人力成本。然而,这些方法的学习任务分布仍由人类预先设计,所依赖的数据依旧高度依赖专家精心策划与大量人工标注,面临着难以扩展与持续演化的瓶颈。 更重要的是,如果智能系统始终受限于人类设定的任务边界,其自主学习与持续进化的潜力将受到根本性限制,这一现实呼唤一种全新的推理范式,迈向超越人类设计约束的未来。 为应对这一挑战, 清华大学 LeapLab 团队联合北京通用人工智能研究院 NLCo 实验室和宾夕法尼亚州立大学的研究者们提出了一种全新的推理训练范式 ——Absolut ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览