刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2

主要观点总结

英伟达发布了全新的混合架构语言模型系列——Jet-Nemotron，该系列包括Jet-Nemotron-2B和Jet-Nemotron-4B两个模型。Jet-Nemotron系列模型性能超越了当前最先进的开源全注意力语言模型，并在H100 GPU上实现了显著的效率提升。该系列模型具有两项核心创新：后神经网络架构搜索（PostNAS）和JetBlock。PostNAS是一种高效的训练后架构探索与适应流程，而JetBlock是一种新型线性注意力模块。Jet-Nemotron系列模型在多个维度上表现出色，尤其是长上下文的场景。此外，英伟达还发布了NVIDIA Nemotron Nano 2模型，它在复杂推理基准测试中实现了与Qwen3相当的准确率。

关键观点总结

关键观点1: Jet-Nemotron系列模型发布

英伟达发布了Jet-Nemotron系列模型，包括Jet-Nemotron-2B和Jet-Nemotron-4B，性能超越当前最先进的开源全注意力语言模型，并实现了显著的效率提升。

关键观点2: Jet-Nemotron模型的核心创新

Jet-Nemotron模型具有两项核心创新：后神经网络架构搜索（PostNAS）和JetBlock。PostNAS是一种训练后架构探索与适应流程，能够降低开发新语言模型架构的成本和风险。JetBlock是一种新型线性注意力模块，结合动态卷积与硬件感知架构搜索，提升了线性注意力的准确率。

关键观点3: Jet-Nemotron系列模型的表现

Jet-Nemotron系列模型在多个维度上表现出色，尤其是长上下文的场景。在预训练和基准测试中，该系列模型实现了显著的速度提升和准确率提升。

关键观点4: 英伟达的其他小模型发布

英伟达还发布了NVIDIA Nemotron Nano 2模型，它在复杂推理基准测试中实现了与Qwen3相当的准确率。此外，英伟达对更小模型的持续研发表明其对小模型领域的重视。

免责声明