看啥推荐读物
专栏名称: 将门创投
将门是一家专注于发掘及加速技术创新激活商业价值的创业公司的创投机构。将门旗下设有将门创新服务、将门技术社群以及将门投资基金。关注领域包括机器智能、物联网、自然人机交互、企业计算。
今天看啥  ›  专栏  ›  将门创投

何时检索,何时生成?Self-DC:自我分治解决复合问题

将门创投  · 公众号  · 科技创业  · 2024-03-21 17:09
当前研究关注大型语言模型在处理已知和未知问题时的知识边界。主要问题可分为四类:单一已知问题可通过模型内部知识解决,单一未知问题需调用外部工具获取知识,组合已知问题需要复杂推理,而组合未知问题则包含其他可能性。如何选择使用外部检索或模型内部知识来回答问题是个挑战。一种方法是朴素RAG,另一种是先评估问题的确定性或不确定性,然后调用生成-读取或检索-读取。然而,这两种方法都有局限性,简单地调用外部检索并不能保证性能,而将问题二元分类过于简化。为此,本文研究者提出了CuQA数据集和Self-dc框架,使模型能够自适应地选择不同方法,提高性能和效率。现有的工作非常关注大模型本身的知识边界,以达成对于大模型known和unknown的问题能够进行不同的处理。简单来说,有四大类主要的问题Single known: 简单的通过 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照