重新思考代理混合模型：混合不同的大型语言模型是否有益？

主要观点总结

本文探讨了大型语言模型（LLMs）的集成方法，提出了Self-MoA，一种仅聚合单一表现最佳大型语言模型输出的集成方法。通过广泛实验，发现Self-MoA在多个基准测试中超过了标准的MoA方法。文章还研究了模型多样性与质量之间的权衡，并发现MoA对质量非常敏感。为此，文章进一步介绍了Self-MoA的序列版本，以处理任意数量的模型输出。本文的主要贡献在于利用模型内多样性提升性能，揭示多样性与质量之间的权衡，以及扩展Self-MoA为序列版本。

关键观点总结

关键观点1: Self-MoA的提出

Self-MoA是一种仅聚合单一表现最佳大型语言模型输出的集成方法，通过聚合同一模型的多个输出来利用模型内多样性。

关键观点2: Self-MoA与MoA的对比

在广泛的基准测试中，Self-MoA表现出了超越标准MoA方法的性能。具体来说，在AlpacaEval 2.0基准测试中，Self-MoA相比MoA提高了6.6%，在多个基准测试中平均提升了3.8%。

关键观点3: 模型多样性与质量的权衡

文章通过系统的实验揭示了模型多样性与质量之间的权衡，并发现MoA对质量非常敏感。通过利用表现最好的模型的输出，Self-MoA确保了整体质量的提升。

关键观点4: Self-MoA的序列版本

为了解锁受上下文长度限制的LLM并实现计算的可扩展性，提出了Self-MoA的序列版本（Self-MoA-Seq），它能够逐步集成少量输出来实现高性能。