在構建大型語言模型和生成式人工智慧(AI)應用需求系統方面,加速運算和網路為關鍵。NVIDIA宣布戴爾科技集團、慧與科技和聯想將率先在其伺服器產品線中整合用於AI的NVIDIA Spectrum-X乙太網路技術,以協助企業客戶加速生成式AI工作負載。Spectrum-X 專為生成式AI打造,新型乙太網路的AI通訊網路效能,較傳統乙太網路產品提高1.6倍。
|
端到端平台採用最新NVIDIA Spectrum-X網路,協助企業客戶加速生成式AI工作負載,實現業務轉型奠定基礎。 |
三家系統製造商推出的新系統將Spectrum-X與NVIDIA Tensor Core GPU、NVIDIA AI Enterprise軟體和NVIDIA AI Workbench軟體結合,為企業提供透過生成式AI實現業務轉型的建構區塊。
NVIDIA創辦人暨執行長黃仁勳表示:「生成式AI和加速運算正推動一個世代的轉變,企業正在升級其資料中心以應對這些工作負載。加速網路是NVIDIA領先伺服器製造商合作夥伴推出新一波系統的催化劑,以加速過渡到生成式AI時代。」
生成式AI推動許多產業的創新應用,需要一個完全不同的架構來支援各種動態工作負載。慧與科技總裁暨執行長Antonio Neri表示:「為了使客戶能夠充分發揮生成式AI的潛力,慧與科技正在與NVIDIA合作,構建具有所需功能、效率和可擴展性的系統來支援這些應用。」
聯想集團董事長暨執行長楊元慶表示:「生成式AI可以推動前所未有的變革,但對企業基礎設施提出了前所未有的需求。與NVIDIA密切合作,聯想正在構建高效、加速的系統,配備了現代人工智慧應用所需的網路、運算和軟體。」
為了實現尖峰AI工作負載效率,Spectrum-X結合Spectrum-4乙太網路交換器的極致效能;NVIDIA BlueField-3 SuperNIC,一種用於增強超大規模人工智慧工作負載的新型網路加速器;以及加速軟體。Spectrum-X與全球先進基礎設施運算平台BlueField-3 DPU相輔相成。
Spectrum-4是全球首款用於AI的51Tb/秒乙太網路交換機,可在大規模和負載下提供高效的資料吞吐量,同時最大限度地減少多租戶、AI雲端工作負載的網路壅塞。BlueField-3 SuperNIC專為網路密集、大規模平行運算而設計,在GPU伺服器之間提供高達 400Gb/s的基於融合乙太網的RDMA(RoCE)網路連接,並提高在集群內部的東西向網路上的AI訓練和推理流量的效能。它們還支援安全的多租戶資料中心環境,確保租戶作業之間的確定性和隔離效能。BlueField-3 SuperNIC擁有高能源效率、半高、半長PCIe外型尺寸適用於企業級伺服器。
為Spectrum-X提供動力的加速軟體,包括Cumulus Linux、Pure SONiC和NetQ等共同驅動平台的突破性效能的NVIDIA軟體開發套件,以及BlueField的核心:NVIDIA DOCA軟體架構。Spectrum-X也支援NVIDIA Israel-1超級電腦,此為下一代AI系統的參考架構。
戴爾科技集團、慧與科技和聯想預計於2024年第一季度推出配備完整NVIDIA AI堆疊的新系統。