7 月 23 日—NVIDIA 宣布推出全新 NVIDIA AI Foundry 服务和 NVIDIA NIM™ 推理微服务，与同样刚推出的 Llama 3.1 系列开源模型一起，为全球企业的生成式 AI 提供强力支持。
借助 NVIDIA AI Foundry，企业和各国现在能够使用 Llama 3.1 以及 NVIDIA 软件、计算和专业知识，为其特定领域的行业用例创建自定义“超级模型”。企业可以使用自有数据以及由 Llama 3.1 405B 和 NVIDIA Nemotron™ Reward 模型生成的合成数据，来训练这些超级模型。
NVIDIA AI Foundry 是由 NVIDIA DGX™ Cloud AI 平台驱动。该平台由 NVIDIA 与全球领先的公有云共同设计，旨在为企业提供大量计算资源，所提供的计算资源可随着 AI 需求的变化轻松扩展。
企业以及制定主权 AI 战略的国家正希望创建具有特定领域知识的自定义大语言模型，以便生成式 AI 应用能够反映其独特的业务或文化。因此，这些新服务的推出恰逢其时。
NVIDIA 创始人兼首席执行官黄仁勋表示：“Meta 的 Llama 3.1 开源模型标志着全球企业采用生成式 AI 的关键时刻已经到来。Llama 3.1 将掀起各个企业与行业创建先进生成式 AI 应用的浪潮。NVIDIA AI Foundry 已经在整个过程中集成了 Llama 3.1，并能够帮助企业构建和部署自定义 Llama 超级模型。”
Meta 创始人兼首席执行官马克·扎克伯格表示：“全新的 Llama 3.1 模型是开源 AI 迈出极其重要的一步。借助 NVIDIA AI Foundry，企业可以轻松创建和定制大家想要的最先进的 AI 服务，并通过 NVIDIA NIM 进行部署。我很高兴能将它交付到大家手中。”
企业现在可以从 ai.nvidia.com 了解适用于 Llama 3.1 模型的 NVIDIA NIM 推理微服务，以加快将 Llama 3.1 模型部署到生产级 AI 的速度。NIM 微服务是将 Llama 3.1 模型部署到生产中的最快途径，其吞吐量最多可比不使用 NIM 运行推理时高出 2.5 倍。
企业可以将 Llama 3.1 NIM 微服务与全新 NVIDIA NeMo Retriever NIM 微服务组合使用，为 AI copilot、助手和数字人虚拟形象搭建先进的检索工作流。
