英伟达：DeepSeek R1现正式上线英伟达NIM平台

文章预览

据英伟达网站，DeepSeek R1 671b已作为英伟达NIM微服务预览版在build.nvidia.com上发布。DeepSeek R1 NIM微服务在单个英伟达HGX H200系统上每秒最多可处理3872个token。开发人员可以对API进行测试和实验，预计该API不久将作为英伟达AI Enterprise软件平台的 一部分，以可下载的NIM微服务形式推出。 英伟达方面介绍称，DeepSeek-R1模型是最先进、高效的大型语言模型，在推理、数学和编码方面表现出色。 DeepSeek-R1 NIM微服务通过支持行业标准API来简化部署。企业可以在其首选的加速计算基础设施上运行NIM微服务，以最大化安全性和数据隐私。借助NVIDIA AI Foundry和NVIDIA NeMo 软件，企业还将能够创建定制化的DeepSeek-R1 NIM微服务，用于专业AI代理。 此前 多国已对 DeepSeek使用设限 DeepSeek推出R1模型后不久，就凭借其性价比、开源及推理能力的提升等方面获得了广泛关注。此外，多 ………………………………