针对边缘运算的需求,Arm Neoverse 边缘运算解决方案的整个生态系统,已经对这个挑战作出回应。展??未来,Arm表示将聚焦在为次世代的基础设施科技奠定基础,重点则摆在 AI 要如何才能更为分散。
Arm指出,由於大型资料集与专属的运算相当集中的缘故,今日较为吃重的 AI 运算多数在云端完成,特别是机器学习 (ML) 模型的训练。但若把这些模型应用到真实世界中靠近决策点的推论时,以云端为中心的 AI 模型就会捉襟见肘。资料传输数千英里来到资料中心进行模型比较时,可能会碰到不少延时的问题,因此,没有人能保证下决定时它是否仍然有用。当时间事关紧要时,把智慧由云端分配到边缘,就相当合理。
Arm 最近宣布将把 bfloat16 资料格式加入下一个版本的 Armv8-A 架构中。此一重要的强化将大幅提升基於 Arm 矽智财的 CPU 的训练与推论效能,并将 bfloat16 的支援性加入 Neoverse「宙斯」(Zeus) 平台来强化速度,预计明年就可推出。次世代的 Neoverse 核心「宙斯」(Zeus) 威力强大,具有 Bfloat 16 功能,可为 AI 工作负荷带来增强的机器学习能力与运行时间。
此外,Arm也宣布推出 Project Cassini。瞄准基础设施边缘的 Project Cassini 将与 Arm 的生态系统夥伴合作,开发平台标准与叁考系统,并以它们为基础,在目前已延展到基础设施边缘的标准化平台安全架构 (PSA) 框架内,无缝部署云端原生的软体堆叠。
Arm预计 2035 年达成的一兆个 IoT 装置的世界,这将带来全新规模的基础设施与架构上的挑战,技术也需要与时俱进才足以应付。Arm 将持续大量投资硬体、软体与工具的开发,以便在基础设施堆叠的每一个点,都赋予智慧决策能力。