一行代码Post-Train任意长序列！360智脑开源360-LLaMA-Factory

主要观点总结

文章介绍了360智脑开源的360-LLaMA-Factory框架，该框架支持序列并行，能够处理长序列大模型的训练。通过模块化修改，实现了对LLaMA-Framework的序列并行支持，使得任意长度的序列后训练成为可能。同时，文章还介绍了该框架的背景、长序列及其后训练的挑战、360-LLaMA-Factory的效果验证等。

关键观点总结

关键观点1: 360智脑开源了360-LLaMA-Factory框架，加入了序列并行功能，支持任意长序列的后训练。

360智脑基于LLaMA-Factory开源了360-LLaMA-Factory，通过额外指定序列并行一个参数：sequence_parallel_size，即可支持任意长序列的后训练。该项目整合了360智脑内部长序列后训练能力，并做到了简单易用和兼容并包。

关键观点2: 长序列大模型的训练面临的挑战。

随着大模型训练数据长度的增长，预训练和后训练平台框架都需要支持长序列数据训练。预训练阶段，主流的框架是英伟达的Megatron-LM。后训练阶段情况相对复杂，后训练算法多样，且训练需求灵活多变。

关键观点3: 序列并行是长序列通解，但实现难度较大。

序列并行被认为是解决长序列训练问题的通解，它通过把一条长序列切分到不同的显卡上进行计算，从而避免了每张显卡处理过长的序列。然而，序列并行的实现难度较大，需要在切分后的序列之间进行通信计算attention，需要侵入修改原始的attention函数。

关键观点4: 360-LLaMA-Factory框架的效果验证。

内部验证显示，360-LLaMA-Factory的实现是正确的。同时，通过对比不同开源框架的序列并行效果，验证了该框架在易用性和功能完整性方面的优势。