在构建大型语言模型和生成式人工智慧(AI)应用需求系统方面,加速运算和网路为关键。NVIDIA宣布戴尔科技集团、慧与科技和联想将率先在其伺服器产品线中整合用於AI的NVIDIA Spectrum-X乙太网路技术,以协助企业客户加速生成式AI工作负载。Spectrum-X 专为生成式AI打造,新型乙太网路的AI通讯网路效能,较传统乙太网路产品提高1.6倍。
|
端到端平台采用最新NVIDIA Spectrum-X网路,协助企业客户加速生成式AI工作负载,实现业务转型奠定基础。 |
三家系统制造商推出的新系统将Spectrum-X与NVIDIA Tensor Core GPU、NVIDIA AI Enterprise软体和NVIDIA AI Workbench软体结合,为企业提供透过生成式AI实现业务转型的建构区块。
NVIDIA创办人暨执行长黄仁勋表示:「生成式AI和加速运算正推动一个世代的转变,企业正在升级其资料中心以应对这些工作负载。加速网路是NVIDIA领先伺服器制造商合作夥伴推出新一波系统的催化剂,以加速过渡到生成式AI时代。」
生成式AI推动许多产业的创新应用,需要一个完全不同的架构来支援各种动态工作负载。慧与科技总裁暨执行长Antonio Neri表示:「为了使客户能够充分发挥生成式AI的潜力,慧与科技正在与NVIDIA合作,构建具有所需功能、效率和可扩展性的系统来支援这些应用。」
联想集团董事长暨执行长杨元厌表示:「生成式AI可以推动前所未有的变革,但对企业基础设施提出了前所未有的需求。与NVIDIA密切合作,联想正在构建高效、加速的系统,配备了现代人工智慧应用所需的网路、运算和软体。」
为了实现尖峰AI工作负载效率,Spectrum-X结合Spectrum-4乙太网路交换器的极致效能;NVIDIA BlueField-3 SuperNIC,一种用於增强超大规模人工智慧工作负载的新型网路加速器;以及加速软体。Spectrum-X与全球先进基础设施运算平台BlueField-3 DPU相辅相成。
Spectrum-4是全球首款用於AI的51Tb/秒乙太网路交换机,可在大规模和负载下提供高效的资料吞吐量,同时最大限度地减少多租户、AI云端工作负载的网路壅塞。BlueField-3 SuperNIC专为网路密集、大规模平行运算而设计,在GPU伺服器之间提供高达 400Gb/s的基於融合乙太网的RDMA(RoCE)网路连接,并提高在集群内部的东西向网路上的AI训练和推理流量的效能。它们还支援安全的多租户资料中心环境,确保租户作业之间的确定性和隔离效能。BlueField-3 SuperNIC拥有高能源效率、半高、半长PCIe外型尺寸适用於企业级伺服器。
为Spectrum-X提供动力的加速软体,包括Cumulus Linux、Pure SONiC和NetQ等共同驱动平台的突破性效能的NVIDIA软体开发套件,以及BlueField的核心:NVIDIA DOCA软体架构。Spectrum-X也支援NVIDIA Israel-1超级电脑,此为下一代AI系统的叁考架构。
戴尔科技集团、慧与科技和联想预计於2024年第一季度推出配备完整NVIDIA AI堆叠的新系统。