这一系列的推理过程（最佳答案可以用于使用推理）称为测试时间扩展。 -R1是该扩展定律的完美示例，证明加速计算对于对代理AI推理的需求至关重要。
由于模型可以反复考虑问题，因此它们将创建更多的输出标记和更长的生成周期，因此模型的质量将继续改善。大量测试期间的计算对于实时推理和R1和其他推理模型的质量较高响应至关重要，这需要更大的推理部署。
R1在逻辑推理，推理，数学，编码和语言理解的任务方面提供了领先的准确性，还提供了很高的推理效率。
为了帮助开发人员安全测试这些功能并构建自己的特殊代理，现在已作为NIM 提供了6710亿参数的-R1模型。
-R1 NIM微服务可以在单个HGX H200系统上提供每秒3,872个令牌。
开发人员可以使用应用程序编程接口（API）进行测试和测试。该接口有望作为可下载的NIM微服务提供，该微服务是AI软件平台的一部分。
-R1 NIM微型服务通过支持行业标准API来简化部署。企业可以通过在其首选的加速计算基础结构上运行NIM微服务来最大化安全性和数据隐私。通过使用AI和NEMO软件，公司还可以为特殊AI代理创建自定义R1 NIM微服务。
本站候鸟号已成立3年，主要围绕财经资讯类，分享日常的保险、基金、期货、理财、股票等资讯，帮助您成为一个优秀的财经爱好者。本站温馨提示：股市有风险，入市需谨慎。
暂无评论