NVIDIA Nemotron Labs开放模型助力企业构建专用AI智能体

利用领域知识定制开放模型，使


开发者


有机会构建和拥有其专业领域的专用


AI


。

编者注：本文是Nemotron Labs系列博客文章，探讨最新的开放模型、数据集和训练技术如何帮助企业在 NVIDIA 平台上构建专用 AI 系统和应用。每篇文章都重点介绍了在生产中使用开放软件栈来提供价值的实用方法，涵盖了从透明的研究 Co


pi


lot 到可扩展的 AI 智能体等领域。

企业有许多强大的模型可供选择。真正的考验在于企业所构建的 AI 能否特定地处理其业务需求：改进工作流、使用领域知识并超越准确性和信任度的标准。

如今，AI 领域的竞争优势越来越取决于组织如何基于现有模型进行构建，而不仅仅是选择哪种模型。

像NVIDIA Nemotron这样的开放模型专为定制化而构建 —— 帮助企业和国家构建可控、可信且为其需求量身定制的 AI。

从使用 AI 到拥有智能

譬如自主智能体和应用这样的专用 AI都基于定制的开放模型构建。这些智能体旨在很好地完成指定任务，因为其所使用的模型已根据专有知识进行调优，并针对实际业务成果进行了评估。

这需要直接访问模型本身。闭源模型拓宽了可能性的边界，并不断推动通用智能的前沿，但同时也为企业在检查、调优和改进方面设置了上限。开放模型则打破了这一壁垒 —— 提供企业完整的所有权与完全管理权。

高效的智能体 AI 应用是由多个模型组成的系统，在系统中，开放模型与领先的前沿模型协同工作，各自发挥所长。高性能推理模型可以处理复杂的规划，而较小的模型则执行特定任务。这使企业能够合理调整推理成本、提高特定任务的准确性，并随工作流演进保持灵活性。

值得企业信赖的定制化

开放模型为企业提供了闭源模型所不能提供的能力：可根据业务需求定制、检查和改进 AI 的完全管理权。公开基准测试可衡量的是通用能力 —— 但以业务为导向的评估让团队能够根据自己的数据、工作流和准确性的定义进行测试 —— 并以此为基础进行改进。

例如，在医疗和法律这样的行业，错误答案的代价很高，这些行业的团队通常处理敏感数据并对准确性有严格要求，因此这些领域的组织必须清楚了解模型训练方式和性能表现，并具备在必要时对其进行改进的能力。

借助开放模型，团队可以检查其应用、根据自身标准运行私有评估，并建立针对其工作流进行调优的强化学习环境。其专有数据无需通过第三方路由传输。

各行各业的公司已经在各自的领域对 Nemotron 进行专用化定制：

Abridge正在定制 Nemotron，以构建首个专为临床对话打造的基础模型。

Glean构建了 Waldo，一种智能体搜索模型，它将 Nemotron 与更大的闭源模型结合，以显著降低延迟并减少 Token 消耗，从而提供企业级搜索。

H Company基于专有计算机使用数据对 Nemotron 3 Nano Omni 进行后训练，构建了 Holotron 3 Nano。该模型在 OSWorld-Verified —— 一项计算机任务基准测试 —— 上面实现了高于 76% 的准确率，并且成本远低于其他领先的前沿模型。

Harvey在其法律基准上对 Nemotron 3 Ultra 进行了后训练并达到了前沿级准确性 —— 在复杂法律任务上能够与领先的闭源模型相媲美，并且每次运行成本至多是原来的十分之一。

Heidi Health在无需前沿规模计算的情况下，在临床文档记录方面实现了前沿质量的成果。

YTL AI Labs针对马来西亚语对 Nemotron 模型进行了后训练，以本地定制 AI 赋能马来西亚开发者社区，以进一步提升其 AI 能力。

微调环境与优化运行成本

定制化可提高准确性。当模型针对特定 Harness 或领域进行调优时，其运行效率也会更高。

NVIDIA NeMo开放库套件不仅支持智能体优化和治理，还能加速模型定制和评估。

Prime


Intel


lect和Unsloth等合作伙伴已开始为在 Nemotron 上构建后训练管线的企业提供 AI 定制支持，使规模化运行专用 AI 变得切实可行。

LangChain为 Nemotron 3 Ultra 调优其 Deep Agents Harness —— 在无需重新训练模型的情况下调整提示词、工具和中间件 —— 并在开放模型中实现了更高的智能体准确性，而每次运行成本约为其他领先闭源替代方案的十分之一。

这些成本优势扩展到了基础设施，以实现出色的可扩展性。通过在 NVIDIA Bl


ac


kwell 平台上对 Nemotron 进行后训练，Arcee AI实现了每百万输出 Token 约 90 美分的推理成本 —— 比同类闭源前沿模型低约 20 倍 (成本仅为后者的二十分之一左右) —— 同时在 PinchBench 上排名第二，并保持完全开放的权重。

节省的成本有助于实现更广泛的实验、更多部署和更快的迭代。

基于开放基础的生态系统构建

从采用 AI 到拥有 AI 的转变正在全面展开。NVIDIA Nemotron Coali


ti


on正在帮助将开放模型开发转化为一项生态系统工程，将模型构建者和开发者聚集在一起，通过共享数据、评估和领域专业知识来改进 Nemotron。此外，


黑客


松的提交成果和社区贡献也跨行业生成了可复用证明资产。

构建者们正在将 Nemotron 整合到其 AI 系统中，证明其价值并分享有效经验。这一切的基础是完全开放的。