NVIDIA日前宣布，推出新的NVIDIA AI Foundry服务和 NVIDIA NIM推论微服务，透过今天同样推出的Llama 3.1开放模型系列，为全球企业增强生成式人工智慧（AI）能力。

/news/2024/07/25/1700272280S.jpg

借助 NVIDIA AI Foundry，企业和国家现在可以使用 Llama 3.1 和 NVIDIA 软体、运算和专业知识为其特定领域的产业用例创建客制化「超级模型」。企业可以使用专有资料以及 Llama 3.1 405B 和 NVIDIA Nemotron Reward 模型产生的合成资料来训练这些超级模型。

NVIDIA AI Foundry 由 NVIDIA DGX Cloud AI 平台驱动，该平台是与世界领先的公有云共同设计的，可为企业提供重要的运算资源，并可根据 AI 需求的变化轻松扩展。

这些新产品推出正值企业以及制定主权AI策略的国家都希??利用特定领域的知识来建立客制化的大型语言模型，以用於反映其独特的业务或文化的生成式AI应用。

NVIDIA 创办人暨执行长黄仁勋表示：「Meta 公开推出的 Llama 3.1 模型代表了全球企业采用生成式 AI 的关键时刻。Llama 3.1 为每个企业和产业打开了建构最先进的生成式人工智慧应用的闸门。 NVIDIA AI Foundry 已全面整合 Llama 3.1，并准备好协助企业建置和部署客制化 Llama 超级模型。」

为了增强用於生产 AI 的 Llama 3.1 模型的企业部署，现在可从ai.nvidia.com下载适用於 Llama 3.1 模型的NVIDIA NIM推论微服务。 NIM 微服务是在生产环境中部署 Llama 3.1 模型的最快方式，与不使用 NIM 运行推理相比，吞吐量可提高 2.5 倍。