拿下SOTA！最强中文Embedding模型对标OpenAI，技术路线公开

主要观点总结

国产大模型「日日新 5.0」在主流评测中表现优秀，得益于商汤自研的通用Embedding模型Piccolo2的支持。Piccolo2是首个对标OpenAI向量长度的模型，在中文大模型测评基准SuperCLUE中超越GPT-4 Turbo，且在OpenCompass基准评测中客观与主观测评均表现优异。其技术路线公开，支持512/2K/8K三种向量长度。Piccolo2通过多任务混合损失训练方法和大维度与MRL训练等技术提高性能，并在C-MTEB评测中名列第一。模型幻觉问题得到解决，长文本处理准确性大幅提升，支持私有化部署。RAG管道的优势在于知识库可以频繁更新，无需二次预训练。核心技术详解及实验介绍附后。

关键观点总结

关键观点1: 商汤自研的通用Embedding模型Piccolo2支持日日新5.0大模型在主流评测中的优秀表现。

Piccolo2是首个对标OpenAI向量长度的模型，并在C-MTEB评测中名列第一。

关键观点2: Piccolo2采用多任务混合损失训练方法，针对不同的下游任务利用不同的训练损失，并扩大了Embedding的维度尺寸以提高性能。

大维度和MRL训练使Piccolo2在嵌入模型的性能上有了显著提升。

关键观点3: Piccolo2解决了模型幻觉问题，提高了长文本处理的准确性，并支持私有化部署。

RAG管道的优势在于知识库更新方便，无需二次预训练，有助于小企业完成大模型的私有化部署。