【全网首发】Llama3 微调项目实践与教程（XTuner 版）

Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，XTuner 团队对 Llama 3 微调进行了光速支持！！！同时开源社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。XTuner：http://github.com/InternLM/XTuner （文明点击阅读原文可直达）Llama3-XTuner-CN： https://github.com/SmartFlowAI/Llama3-XTuner-CN/Llama 3 概览首先我们来回顾一下 Llama 3 亮点概览～首次出现 8B 模型，且 8B 模型与 70B模型全系列使用 GQA (Group Query Attention)。最大模型达到 400B 规模大小，未来几个月内发布！分词器由 SentencePiece 换为了 Tiktoken，与 GPT4 保持一致。相比于 Llama2 的 32000 词表大小，Llama3 的词表大小来到了惊人的 128256。数据方面上，Llama3 使用了约 15T token 用于模型的训练。开源模型大小为 8B 和 70B 两种，每种规模均有开源基座模型和 instruct 模型。Llama3 8B Instruct 模型在数学与代码能力 ………………………………