NVIDIA日前宣布，推出新的NVIDIA AI Foundry服務和 NVIDIA NIM推論微服務，透過今天同樣推出的Llama 3.1開放模型系列，為全球企業增強生成式人工智慧（AI）能力。

/news/2024/07/25/1700272280S.jpg

借助 NVIDIA AI Foundry，企業和國家現在可以使用 Llama 3.1 和 NVIDIA 軟體、運算和專業知識為其特定領域的產業用例創建客製化「超級模型」。企業可以使用專有資料以及 Llama 3.1 405B 和 NVIDIA Nemotron Reward 模型產生的合成資料來訓練這些超級模型。

NVIDIA AI Foundry 由 NVIDIA DGX Cloud AI 平台驅動，該平台是與世界領先的公有雲共同設計的，可為企業提供重要的運算資源，並可根據 AI 需求的變化輕鬆擴展。

這些新產品推出正值企業以及制定主權AI策略的國家都希望利用特定領域的知識來建立客製化的大型語言模型，以用於反映其獨特的業務或文化的生成式AI應用。

NVIDIA 創辦人暨執行長黃仁勳表示：「Meta 公開推出的 Llama 3.1 模型代表了全球企業採用生成式 AI 的關鍵時刻。Llama 3.1 為每個企業和產業打開了建構最先進的生成式人工智慧應用的閘門。 NVIDIA AI Foundry 已全面整合 Llama 3.1，並準備好協助企業建置和部署客製化 Llama 超級模型。」

為了增強用於生產 AI 的 Llama 3.1 模型的企業部署，現在可從ai.nvidia.com下載適用於 Llama 3.1 模型的NVIDIA NIM推論微服務。 NIM 微服務是在生產環境中部署 Llama 3.1 模型的最快方式，與不使用 NIM 運行推理相比，吞吐量可提高 2.5 倍。