瘦身不降智！大模型训推效率提升30%，京东大模型开发计算研究登Nature旗下期刊

文章预览

京东探索研究院 投稿 量子位 | 公众号 QbitAI 京东探索研究院关于大模型的最新研究，登上了Nature旗下期刊！ 该项研究 提出了一种在开放环境场景中训练、更新大模型，并与小模型协同部署的系统与方法 。 它通过模型蒸馏、数据治理、训练优化与云边协同四大创新，这个项目 将大模型推理效率平均提升30%，训练成本降低70% 。 这个名为《Omniforce：以人为中心的、赋能大模型的、云边协同的自动机器学习系统》的项目，发表在Nature旗下期刊npj Artificial Intelligence上。 据介绍，这是国内首个系统性解决开放环境下大模型开发效率难题并获国际顶刊认证的研究成果。 提出四个创新方法，推理平均提效30% 企业将大模型应用付诸实践，面临着诸多卡点： 一方面进入大模型应用门槛高，另一方面模型训练与推理效率低。 京东大模型开发计算技术，能支持企业 ………………………………