Arm IP产品事业群总裁Rene Haas在本届台北国际电脑展COMPUTEX 论坛中,发表「全面运算引领AI成长」(Scaling AI Through Total Compute)主题演说。探讨AI运算在各个市场所面临的复杂挑战,以及Total Compute解决方案为何能够同时满足AI效能提升与应用开发的需求。
|
Arm IP产品事业群总裁Rene Haas |
Rene 一开始即指出一个重大趋势:AI核心平台迈向异质化时代。现在的智慧型手机已经内建许多人工智慧和机器学习 (ML) 的基础功能,包括即时影像撷取、人脸辨识等,但在全球将近四十亿只的智慧型手机中,目前约有85%的手机还是将机器学习的工作负载交由CPU或者CPU + GPU (图形处理器) 执行的。
而根据Arm对AI处理器工作负载的研究,为达成更隹的应用效能和使用体验,发挥AI和ML的优势,未来智慧型装置的AI运算核心,将以CPU为中心,再整合运用GPU、NPU (类神经网路处理器)、DPU (资料流处理器)、FPGA (现场可编程逻辑闸阵列)等运算资源。
从产业转型方面来看,不论是自动驾驶、5G引爆的边缘伺服器需求、AI型穿戴装置和虚拟实境 (VR)、扩增实境 (AR)、高画质游戏体验、5G 智慧手机等,都带来超高的运算效能与智慧功能要求。此外,安全也是一项极大的考验,前述各种市场领域的设备与装置,都储存了大量的个人资讯,没有人希??窃取个人机密资料的事件再次发生。
Rene指出,这些大规模运算流程、跨处理元件的运用、安全保护要求,以及特定领域运算 vs 通用运算等,都将让应用开发变得越来越困难且成本越来越高,市面上太多不同软体的选择,造成开发人员/生态系统碎片化的扩大,增加了推动装置AI化的困难。
AI拓土开疆的大策略:全面运算
针对上述的AI运算与体验挑战,Arm提供从系统整体出发,结合硬体IP (矽智财)、软体架构和最隹化工具,一次解决未来运算复杂性的「全面运算」(Total Compute) 解决方案。
一方面,Total Compute解决方案能以CPU为任务控制核心,再透过System IP确保AI运算的工作负载能达到最隹分配。例如影像搜寻作业由NPU执行,将比CPU更快、更有效率。再加上 Arm 的GPU、ML 处理器、显示处理器、Arm NN 架构等,将能协助开发人员全面释放AI效能。
另一方面,Total Compute为开发人员提供了一个更容易运用的未来生态系统。碎片化的软体和开发人员生态系统,除面临需提升各种装置的存取效能以推展AI应用的挑战外,复杂的运算又进一步提升效能的需求,因此为了能让AI应用能轻松扩展到不同的环境中,Arm藉由快速、简单、成本更低的Total Compute解决方案。提供一个统一的开发途径。Arm所开发的软体架构,充分运用了Arm IP以及Arm NN、Arm Compute Library、 Arm Development Studios和Arm Mobile Studios,能有效加速产品开发的上市时程。
Rene总结未来新的工作负载是以使用案例为设计基础的,要解决未来的复杂性挑战,必须从根本上最隹化硬体、软体、平台安全性和工具。整个AI产业面临着极大的挑战,而CPU软体生态系统将有助於开发人员拓展边缘的AI体验,Arm是业界中兼具安全、效能和效率的领导者,能够透过Total Compute策略涵盖的软硬体和生态系统,帮助开发者跨越各个市场领域,加速提供5G时代的全新体验。