使用样本设计工程 (SDE) 来构造更好的大模型下游微调样本

文章预览

↑ 点击 蓝字  关注极市平台 作者丨郭必扬 来源丨SimpleAI 编辑丨极市平台 极市导读   本文首次提出了样本设计工程（Sample Design Engineering, SDE）的概念，系统性地探究了影响大模型下游任务微调的多种设计选项，发现了诸多有趣且引人深思的结论，并提出了一种在多个复杂下游任务上均稳定优异设计方案。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 提示工程（Prompt Engineering）已经成为提升大模型的零样本、少样本推理能力的基本操作。然而，在大模型实际落地解决下游业务问题的时候，我们往往还需要一些针对性的样本对模型进行微调训练。我们在大模型实际落地研发中发现：虽然大模型已经足够强大，但是微调样本的不同设计，依然会显著影响大模型微调后的效果。因此， 如何设计更好的微调样本 ，成为了一个新的问题。对此，本 ………………………………