大模型日报（6月18日 学术篇）

文章预览

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。 如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。 欢 迎 大 家 一 起 交 流 ！ 论文 0 1 Nemotron-4 340B 技术报告 我们发布了Nemotron-4 340B模型系列，包括Nemotron-4-340B-Base，Nemotron-4-340B-Instruct和Nemotron-4-340B-Reward。我们的模型在NVIDIA开放模型许可协议下开放访问，这是一种宽松的模型许可协议，允许分发、修改和使用模型及其输出。这些模型在广泛的评估基准上表现出竞争力，并被设计成在单个DGX H100上使用8个GPU进行FP8精度部署。我们相信社区可以从这些模型中受益，在各种研究和商业应用中特别适用于生成用于训练较小语言模型的合成数据。值得注意的是，在我们的模型对齐过程中使用的数据超过98%是合成生成的，展示了这些模型在生成 ………………………………