大模型微调范式认知再被颠覆？UIUC、Amazon团队最新研究指出SFT灾难性遗忘问题或被误解

主要观点总结

本文主要介绍了一项关于大模型微调实践的研究，研究表明领域特定的SFT并不总是会严重削弱模型的通用能力。通过采用更小的学习率，可以在保持通用任务能力的同时提高目标领域的表现。文章还介绍了一种新的方法TALR，能够进一步缓解灾难性遗忘问题。实验结果表明，TALR在保持领域性能的同时，能够显著减少通用性能的损失。

关键观点总结

关键观点1: 研究指出领域特定的SFT并不总是会严重削弱模型的通用能力，使用更小的学习率可以在两方面取得平衡。

研究团队通过一系列实验发现，在更小的学习率下，模型能够在保持通用任务能力的同时提高目标领域的表现。这一发现对于重新审视SFT的价值以及开发更有效的策略来平衡通用能力和领域性能具有重要意义。

关键观点2: 研究团队提出了一种新的方法TALR，能够自适应地调整每个token的权重，进一步缓解灾难性遗忘问题。

TALR通过建立约束优化问题来实现自适应权重分配，根据每个token的预测概率来动态调整权重，从而削弱hard token在训练中的过度梯度贡献。实验结果表明，TALR在保持领域性能的同时，能够显著减少通用性能的损失。

关键观点3: 研究指出了现有方法的局限性以及未来研究的重要方向。

尽管小学习率和TALR已经显示出在缓解灾难性遗忘问题上的有效性，但现有方法仍无法彻底消除高学习率带来的性能退化。因此，未来研究需要探索更强大的缓解策略，以在大学习率下兼顾领域能力和通用性能。此外，研究还指出如何在保持多样性的同时抑制遗忘，是下一阶段值得深入研究的重要课题。