Arm 宣布多项全新的策略合作，致力於带动人工智慧（AI）的创新，并实现 AI 体验。除了能实现 AI 开发作业的技术平台，Arm 也正与超微半导体（AMD）、英特尔、Meta、微软、辉达（NVIDIA）与高通（Qualcomm Technologies, Inc.）等市场领先的科技公司合作，透过各项计画，聚焦於促成先进的 AI 能力，以带来更高的回应性、且更安全的使用者体验。这些合作将在各个运算进行之处，为超过 1,500 万名 Arm 开发人员打造其所需的基础框架、技术与规格，带来次世代的 AI 体验。

Arm 资深??总裁暨架构长与院士 Richard Grisenthwaite 表示：「AI 的广泛应用仰赖於硬体与软体创新的持续协同。这种组合将在每一个技术接触点上提升 AI 能力，从在边缘运行工作负载的最小型感测器，到处理复杂工作负载以训练大型语言模型的超大型伺服器。」他指出：「随着生态系不断地发掘 AI 的真正潜力，安全性、永续与资料上限显然地都将成为挑战。因此，持续探寻整个产业中的合作机会极为重要，如此才能大规模实现 AI 的部署，包括加大边缘的推论能力。」

助力边缘 AI 发展

生成式 AI 与大型语言模型（LLM）或许是时下关注的焦点，而有监於在智慧手机领域，高达七成的第三方 AI 应用是在 Arm CPU 上运行，Arm 已引领边缘实现 AI 长达多年。在探索如何以永续的方式实现 AI 与更高的效率来传送资料时，产业也需要同步演进，以便能在边缘运行 AI 与机器学习（ML）模型。然而，开发人员在此所能运用的运算资源越来越有限，要达到此目的也充满挑战。

Arm正与 NVIDIA 合作，进行 NVIDIA TAO 的调适，这是一套可运用在 Ethos-U NPU 上的低程式码且开源的工具套件，它可协助打造效能优化的视觉 AI 模型，以便将其部署在基於 Ethos-U 的处理器上。NVIDIA TAO 提供一个易於使用的介面，可在 TensorFlow 与 PyTorch 这两个免费且开源的?先 AI 与 ML 框架上进行开发作业。为开发人员带来轻松且无缝的模型开发与部署环境，同时还可以在边缘装置运行更复杂的 AI 工作负载，提升 AI 体验。

在所有装置与市场推进神经网路的应用

在边缘推进神经网路的部署是实现 AI 持续成长的重要一环。Arm 与 Meta 正努力运用 ExecuTorch，把 PyTorch 导入 Arm 架构的行动与嵌入式平台。ExecuTorch 能让开发人员更轻松地在各种行动与边缘装置上，部署先进 AI 与 ML 工作负载所需的最尖端类神经网路。Arm 与 Meta 的合作将确保未来透过 PyTorch 与 ExecuTorch，开发人员能更轻松开发与部署 AI 与 ML 模型。

与 Meta 的合作是以 Arm 已投注庞大资源的张量算子集架构（TOSA）为基础；TOSA 为 AI 与 ML 加速器提供一个共同的框架，并支援深度神经网路运用的各式工作负载。对於多元的处理器与数十亿个以 Arm 架构打造的装置，TOSA 将是 AI 与 ML 的基石。

在产业内推动规模化的 AI

要以相对较低的成本实现 AI 的规模化，支援资料格式的广泛部署相当关键。Arm 向来致力於支援各种新兴小型资料库类型的 AI 工作负载。

Arm、英特尔与 NVIDIA 去年在合作计划中发表了全新的 8 位元浮点规格：FP8。从那之後，此一格式备受关注，而叁与的企业也扩大到 AMD、Arm、Google、英特尔、Meta 与 NVIDIA，并共同创建了正式的 OCP 8位元浮点规格（OFP8）。Arm 在其最新的 A 系列架构更新中，新增了符合此一标准的 OFP8，为产业内的类神经网路的快速采用提供支援。OFP8 是一种交换的 8 位元资料格式，可以让软体生态系轻松分享类神经网路模型，并在数十亿个装置上持续推进 AI 运算能力。

开放标准对於驱动 AI 生态系的创新、一致性与可交互操作性极为关键。为持续支援业界开放标准的协作努力，Arm 近期加入 MX 联盟，该联盟成员包括 AMD、Arm、英特尔、Meta、微软、NVIDIA 与高通。MX 联盟近来针对微扩充这一全新技术的规格展开合作。这项技术是建立在晶片设计领域中长达多年的探索与研究，是 AI 应用针对窄位元（8 位元与未满 8 位元）训练与推论的一种精密的扩充方式。此一规格将这些窄位元资料规格标准化，为产业去除碎片化，并促成 AI 的规模化。

秉持产业合作的精神，MX 联盟透过开放运算专案，以开放、免授权的形式发布了这个 MX 的技术规格。这项专案结合了超大规模资料中心营运商与运算基础设施产业的其它相关业者，目的是促使更广泛的业界采用。这也体现了业界对於该需求的共识让生态系中的所有人都能平等地获取可扩充的 AI 解决方案。

前所未见的 AI 创新

目前 Arm 已为全球的 AI 发展奠立扎实的基础，而上述的合作只是 Arm 为提供开发人员打造先进、复杂 AI 工作负载所需技术的方式之一。从感测器、智慧手机到软体定义汽车、再到伺服器与超级电脑，AI 的未来将建构於 Arm 的技术之上。