账号:
密码:
最新动态
 
产业快讯
CTIMES / 文章 /
PCIe桥接AI PC时代
无止尽的高速传输需求

【作者: 黃弘毅】2024年04月25日 星期四

浏览人次:【1238】

PC应用PCI(Peripheral Component Interconnect)介面来连结各类周边装置已经行之有年,不仅成为业界的标准,整个PC产业也因之蓬勃发展。透过PCI介面所推出的显示卡、音效卡、网路卡等等,各种创新加值让PC从办公室到个人都成为必要的应用配备。


当然,随着PC主结构的发展,需要运算处理的数据越来越庞大,更高速的传输介面需求也随之而来,因此由PCI-SIG组织在2003年制定了PCI Express (PCIe)1.0的新高速传输介面标准,速度为2.5 GT/s。然而PC处理器随着摩尔定律发展速度倍增,高速传输介面也要跟着配合发展,从2003年到今2024年已经从PCIe1. 0发展到6.0,速度达到64 GT/s,预计2025年推出的PCIe 7.0版本将达到128 GT/s。






















































版本



推出年份



速度



主要特点



PCIe 1.0



2003



2.5 GT/s



引入串行连接,替代以往的并行架构



PCIe 2.0



2007



5 GT/s



速度提升到原来的两倍,引入了更高效的编码方法(8b/10b)



PCIe 3.0



2010



8 GT/s



进一步提升速度,并引入了128b/130b编码技术



PCIe 4.0



2017



16 GT/s



再次加倍数据传输速率,对信号完整性进行了增强



PCIe 5.0



2019



32 GT/s



持续加倍带宽,对高频宽应用如AI、数据中心、高性能计算提供了更大的支持



PCIe 6.0



2022



64 GT/s



引入了Pulse Amplitude Modulation 4 (PAM-4)技术,并包括向前错误更正(FEC)



PCIe 7.0



预计推出年份:2025年



128 GT/s



将再次加倍数据传输速率,预期将提供更高的能效,更低的延迟



表一:PCIe版本比较表

AI PC带动超大量数据传输


图一 :  PCIe在未来的AI伺服器或AI PC中将扮演一个关键性角色,主要由於其高速数据传输能力和广泛的设备支持。
图一 : PCIe在未来的AI伺服器或AI PC中将扮演一个关键性角色,主要由於其高速数据传输能力和广泛的设备支持。

PCIe在未来的AI伺服器或AI PC中将扮演一个关键性角色,主要由於其高速数据传输能力和广泛的设备支持。AI应用,尤其是那些涉及深度学习和机器学习的应用,对运算速度和数据处理能力有极高的要求,PCIe在这些领域提供了关键的基础技术支持,主要原因有下列几点:


1.AI工作负载需要高频宽和低延迟:AI 工作负载通常需要处理大量数据,并且对延迟敏感。PCIe 提供了高频宽和低延迟,这使其成为 AI 应用程序的理想选择。


2.PCIe是一种成熟且广泛采用的标准:这意味着它得到广泛支持并且易於使用。这对於 AI 应用程序很重要,因为它们通常需要在各种硬体上运行。


3.PCIe不断发展以满足不断变化的需求:PCIe 不断发展以满足不断变化的需求。PCIe 5.0、6.0和7.0都提供了比以前版本更高的频宽和更低的延迟。这意味着 PCIe 将继续满足AI应用程序不断增长的性能需求。


以现有已推出的PCIe 5.0与6.0来看,PCIe 5.0提供了每秒32GT/s的数据传输速率,频宽是PCIe 4.0的两倍。这样的提升对於需要高频宽和低延迟的AI计算工作负荷来说,可以显着提高效率和性能。


而PCIe 6.0预计将提供每秒64 GT/s的传输速率,这将进一步加强支持高性能计算应用,包括AI和机器学习。而且PCIe 6.0引入了Pulse Amplitude Modulation with 4 levels(PAM-4)和 Forward Error Correction(FEC)技术,这些都是为了提高信号完整性和增强错误校正能力,非常适合高负荷和要求苛刻的AI应用。


这些技术创新预示着PCIe在AI硬体发展中的关键角色,尤其是在训练更为复杂、数据密集的AI模型方面。PCI-SIG(负责PCIe标准的组织)清楚地意识到了这一点,并在设计这些新标准时考虑到了未来AI和其他高性能应用的需求。



图二 : 影片:PCI-SIG说明PCIe如何增强AI应用(source:https://youtu.be/FkEUT7e8Jy4?si=HE0P9r8nJCEFDsxe)
图二 : 影片:PCI-SIG说明PCIe如何增强AI应用(source:https://youtu.be/FkEUT7e8Jy4?si=HE0P9r8nJCEFDsxe)

PCIe在主机AI加速器的具体应用

在人工智慧(AI)的发展和应用中,专用的AI加速器已成为提高计算效率和处理速度的重要工具。这些加速器包括专门设计的硬体,如GPU、FPGA、ASIC和其他专为AI工作负载优化的设备。PCIe在连接这些AI加速器方面扮演了关键角色,以下是一些具体应用:


连接GPU

在AI中,特别是在深度学习和机器学习领域,GPU由於其大规模并行处理能力而被广泛使用。PCIe介面允许多个GPU在单个主机或伺服器上高效通信,实现数据并行处理。高宽频和低延迟的特性使PCIe成为连接GPU的理想选择,尤其是当涉及到大规模数据集和复杂模型训练时。


支援FPGA和ASIC

FPGA和ASIC提供了更高效的能源利用率和更快的处理速度,适合特定类型的计算任务,如图像处理和语音识别。PCIe提供了足够的灵活性和扩展性来支持这些加速器,使它们可以被直接??入到服务器的PCIe??槽中,并与主机系统的其他部件(如CPU和记忆体)进行高速数据交换。


模组化和扩展

在某些情况下,AI加速器需要可扩展的配置,以应对不断增长的处理需求。PCIe技术的模组化设计允许轻松添加或升级加速器卡,支持企业根据需要扩展其计算能力。


数据中心和云端运算

在数据中心和云端运算环境中,AI加速器经常需要与大量的服务器和储存系统协作。利用PCIe介面,数据中心可以实现加速器与服务器之间的高效连接,提高整体系统的性能和响应速度。


直接记忆体存取(DMA)

AI应用需要大量的数据交换,高效的数据传输对於性能至关重要。PCIe支持DMA,这允许AI加速器直接从主记忆体读取或写入数据,而无需CPU介入,这样可以大幅提高数据处理速度和效率。


总之,PCIe以其高频宽、低延迟和灵活的连接能力,是连接AI加速器的理想选择,尤其适合处理大量数据和高速计算的AI应用。随着技术的发展,PCIe将继续支持更高效的AI计算解决方案。


PCIe在笔电或行动PC的具体应用

在AI笔记型电脑上,PCI Express(PCIe)扮演着至关重要的角色,提供高速数据传输通道以支援各种高性能计算任务。以下是PCIe在AI笔记型电脑上的一些具体应用:


GPU加速

AI应用,特别是深度学习和机器学习,大量依赖於图形处理单元(GPU)来进行数据并行处理。PCIe提供高速连接,使笔记型电脑的主处理器(CPU)能够快速与GPU通信,这对於需要大量运算的AI模型训练和推理非常重要。使用PCIe x16??槽连接GPU,可以实现高频宽数据传输,减少CPU和GPU之间的资料传输延迟。


高速储存解决方案

笔记型电脑经常需要处理和储存大量数据集。PCIe介面的固态硬碟(SSD),特别是支持NVMe技术的SSD,提供了远超过传统SATA SSD的读写速度,这对於加快数据处理和减少模型训练时间至关重要。PCIe NVMe SSD通过直接连接至PCIe通道,提供更高的传输速率和更低的响应时间。


外部设备扩展

AI研究和开发经常需要使用多种外部设备,如额外的显示器、高速网路介面卡或其他专业设备。PCIe通过外部扩展埠或通过Thunderbolt介面(基於PCIe技术)连接这些外部设备,提供了足够的灵活性和扩展性。Thunderbolt 3和Thunderbolt 4介面允许笔记型电脑通过单一介面连接多达两个4K显示器以及其他高速周边设备,同时还可以供电。


数据中心和云连接

AI笔记型电脑在处理大型AI模型或数据集时,可能需要连接到数据中心或云服务。PCIe网路卡(如10GbE卡)提供了高速网络连接,支持快速的数据上传和下载。高性能PCIe网路卡通过提供比标准乙太网更快的网路速度,使AI开发者能够有效地与云基础设施互动。


这些应用展示了PCIe在AI笔记型电脑上的关键作用,特别是在需要高速数据处理和传输的场景中。随着AI技术的进步,对於这些高性能连接技术的需求也将持续增长。


PCIe潜在的竞争者













































































特性



PCIe



CXL



NVMe



USB



雷电



NVLink



频宽









中等







延迟









中等







灵活性







中等









广泛采用















复杂性







中等





中等





功耗







中等





中等





成本







中等





中等





表二:PCIe潜在竞争者优劣比较

PCIe的广泛适用性、弹性和支持范围使其成为许多系统和设备中的首选介面。每种技术都有其独特的优势和专门的应用场景,以下常见的几种连结介面:


CXL(Compute Express Link)是一种新型互连标准,旨在满足数据中心和高性能计算 (HPC) 的需求。CXL 提供比 PCIe 更高的频宽和更低的延迟,并支持多处理器之间的互连。


NVMe(Non-Volatile Memory Express)是一种用於固态硬碟的互连标准。NVMe提供比传统SATA介面更高的频宽和更低的延迟。


USB(Universal Serial Bus)是一种通用互连标准,用於连接各种设备。USB 提供中等频宽和中等延迟,但价格低廉且广泛采用。最新的USB4标准支援与Thunderbolt 3兼容,其中包括利用PCIe通道进行数据传输的能力。这意味着具备USB4介面的设备可以实现类似於Thunderbolt的功能。


Thunderbolt是一种由Intel和Apple开发的高速互连标准。Thunderbolt提供比 USB更高的频宽和更低的延迟,并支援多种设备类型。


NVLink是一种由NVIDIA开发的互连标准,专为多GPU系统而设计。NVLink 提供比PCIe更高的频宽和更低的延迟,并支援多个GPU之间的互连。


总体而言,PCIe是一种功能强大的互连标准,可为各种应用提供高性能和灵活性。但是,对於具有特定需求的应用,其他标准(例如CXL、NVMe、USB、雷电和NVLink)可能更合适。在选择互连标准时,务必考虑应用程序的具体需求,这些PCIe潜在的竞争者,与其说是竞争者,在很多面向反而是一种互补合作的应用。


结语

在AI广泛应用的时代,从主机伺服器到AI笔电,高速传输的需求只有越来越高,应此PCIe等高速传输介面的发展也没有止尽。甚至,为了因应AI周边多元的应用,即??即用的高速传输介面也会有各种相互连接、互补应用的需求,这些都是业者在发展产品时所需要观察选择的重点。


相关文章
AI PC华丽登场 引领算力为王的时代
从AI PC崛起看处理器大厂产品策略布局
PCIe传输复杂性日增 高速讯号测试不可或缺
PCIe 7.0有什麽值得你期待!
PCIe效能满足功耗敏感性装置与关键任务应用
comments powered by Disqus
相关讨论
  相关新闻
» 达发聚焦高毛利晶片、欧美市场 拓展高门槛技术布局
» imec推出基地站与手机ADC元件 推动超5G通讯发展
» 联电首推22eHV平台促进下世代智慧型手机显示器应用
» 筑波医电於台湾国际医疗展展示Spark手术麻醉系统
» 贸泽电子和ADI合作出版电子书协助工程师解决设计挑战


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 远播信息股份有限公司版权所有 Powered by O3  v3.20.1.HK86N9CNM36STACUK6
地址:台北数位产业园区(digiBlock Taipei) 103台北市大同区承德路三段287-2号A栋204室
电话 (02)2585-5526 #0 转接至总机 /  E-Mail: webmaster@ctimes.com.tw