对整个智慧物联(AIoT)架构来说,边缘运算(Edge Computing)可能是最重要的一个技术。它不仅可以提升终端装置的效能,提升使用者的体验,最重要的,还能降低云端系统的负担,进而增加了整体的系统效能,对于企业的营运与成本有着至关重要的影响。
而在2021年,这个技术的重要性仍会持续的增加,一方面是经过了前两年的酝酿与布局,更多的用户与系统商已体认到导入边缘运算的益处;另一方面,则是更多的边缘运算元件与解决方案已到位,降低了导入边缘运算相关系统的建置时程与成本。
尽管COVID-19对全球的经济带来严峻的挑战,也压抑了大型AIoT系统的建置需求。但随着5G的加速到来,让行动运算有了更佳的发展态势。尤其是疫情所引发的远端作业与自动化的意识,已成为了业界普遍的共识。
5G兴起 多接取边缘运算架构正受重视
而在5G时代,一种被称为多接取边缘运算架构(Multi-access Edge Computing,MEC),正受到广泛的重视,尤其是在工业领域。它主要的目标就是进一步强化边缘运算平台的即时性,减少延迟的时间,同时简化部署的成本,是目前最受重视的边缘运算技术。
MEC的部署十分具有弹性,它可被建置在无线网路节点(Radio Node)、汇流聚合节点(Aggregation Point)、或是核心网路端(Core Network)。以目前台湾最常见的基地台建置为例,终端用户使用行动装置来存取网路上的服务时,基地台即可就由在基地台上的MEC运算平台,先行判断是否可由MEC提供服务。若只需要透过MEC,就可以更快速的服务使用者,减少需要经过骨干网路和核心网路的时间后频宽,从而降低整体网路系统的成本。
国际市场研究机构ResearchAndMarkets就在其报告中指出,边缘运算导入行动运算的时机已经成熟了。该机构预测,行动边缘计算在2027年将达到27亿美元,特别是在COVID-19发生之后的复合年成长率,将达到30.8%。
而行动边缘计算其实就是多接取边缘运算的前身。顾名思义,就是以行动应用场景为主要思考点,让云端储存和运算网路边缘可以更加接近。欧洲电信标准协会(European Telecommunications Standards Institute,ETSI)是在2017年时,将行动边缘运算技术(Mobile Edge Computing)更名为多接取边缘运算技术,该计划是将边缘节点放置在行动和固定网络上。
该分析机构并在报告中指出,MEC可为客户更快,更灵活地部署各种服务和应用程序。这个技术结合了电信网路和IT技术,可帮助蜂窝式的电信运营商搭建开放式无线接入网(RAN),以授权第三方(例如内容提供商和应用程序开发商)。同时MEC也允许新兴的应用程序进入云端服务和资源的存取,进而实现新一代的智慧应用环境。
针对MEC的技术与应用,台湾的工研院也投入了许多的研发资源,并且极力的与产业界合作,要打造出更好的5G服务。
工研院就指出,运用MEC可大幅降低网路延迟,提升使用者体验。目前已与电信业者合作开发出VR 360直播系统,提供高画质全景直播。此外,也有高画质无人机空拍串流技术,以及无人车等相关技术。
除此之外,在工业制造与医疗照护领域,同样也有使用行动边缘运算技术的需求,像是无人智慧工厂、远端医疗等,都是需要高速、无延迟的网路服务的效能。
2021年边缘运算五大趋势
Arm应用工程总监徐达勇认为,在2021年,有五大值得关注的边缘运算趋势:
˙新冠疫情加速AI部署:根据Arm于2020年8月与麻省理工学院科技评论洞察(MIT Technology Review)合作、针对来自12个不同产业的301位C Level的科技专业人士进行的访谈报告显示,超过62%的受访者表示,他们正在投资并使用AI技术。来自大型企业组织(年营收超过 5 亿美元)受访者的部署率较高,接近80%。较小型的企业组织(营收低于 500 万美元)的部署率则为 58%。 1/3的受访者表示,2020年新冠疫情的爆发加速了他们在AI策略上的部署。
˙企业组织正在提高对AI的投资:超过一半(57%)的受访者看到他们的 AI 预算在过去三年内提升,且接近四分之一的人表示,他们在2016年到2019年间,年度 AI 支出最少增加一倍。其中,大型企业在AI支出的增加更多:73%来自年营收超过5亿美元的企业组织受访者的预算都有增加,有近三分之一的受访者预算甚至提升超过100%。这些投资加码反映AI对企业营运持续成长且普遍的影响。
˙超过半数企业将AI部署在终端装置或边缘运算:尽管对于已经使用AI的企业组织,云端运算是他们最喜欢的基础架构,不过在越来越需要极低延迟的数据存取,以及端点/边缘处理能力的应用上,为了兼顾成本效益及运算效率,越来越多应用将往数据产生的来源靠近,边缘运算或是将资源摆在更靠进存取它们的装置的地方,相关的部署将急起直追。
˙对应软硬体攻击与保护个资/隐私的需求:可以想见,任何普遍的科技与技术对社会的影响都有利弊两面。 AI对几乎所有商业与社会活动层面的冲击持续扩大,让企业领袖必须正视AI能否在负责任的规范下使用。消费者一方面对于交易与运作流程中借助AI的接受度越来越高,但也期待企业能在公平的、高道德标准,并能顾及永续发展的条件下使用这项技术,特别在个资的搜集。因此在边缘运算上,也衍生出对应软硬体攻击以及保护隐私等运算能力的强烈需求。
˙云原生体验无痛且无缝的转移至边缘:云原生资料中心服务导向的架构,正与构成嵌入式终端与端点装置的各式各样的硬体产生碰撞。 Arm正与生态系伙伴合作,确保那些不同且持续演进的工作负载,能在各个装置与作业系统上,简单地转移、维护与部署,同时还能无缝地连接到所有的云端服务。例如Arm推出的Project Cassini,这是个开放、建立标准架构的提案,目的是在安全的Arm终端生态系上,为开发者达成统一且简化的 AI 体验。
![图二 : Arm的产品策略是对边缘运算CPU大幅增加AI/ML的运算能力](/art/2020/12/311144381490/p2S.JPG)
图二 : Arm的产品策略是对边缘运算CPU大幅增加AI/ML的运算能力 |
|
当然我们也值得看看Arm针对边缘运算将会有哪些产品策略:这将分别讨论包括CPU、NPU与PSA等层面。
CPU
从弹性与效能来分析 CPU、GPU 与 NPU,可发现弹性最佳的是CPU(像一把瑞士刀,在各种应用场合都可用),而效能最好的是 NPU(像一把电锯,能在特定的场景中发挥事半功倍的效果)。因此 Arm 在追求极致效能(Performance)、最佳功耗效率(Power)及最小面积(Area)的平衡的同时,也将 AI 运算能力与弹性纳入 CPU 的设计,以确保其得以适用在不同的边缘运算的应用场景。
专用的ML加速器可以达到更好的效能,但同时也增加矽晶的面积。所以这是通用与专用两者的组合,透过异质运算创造更好的效能。因此,Arm的产品策略是对边缘运算CPU大幅增加AI/ML的运算能力,也会在2021年新发表的CPU产品上,持续掌握这个技术趋势。
NPU
Ethos-N系列是Arm专为行动AI、ML 推论的运算需求而推出的类神经网路处理器,而Arm也于2020年初发表Cortex-M55 CPU以及采用全球首颗微型NPU架构的 Ethos-U55 NPU,此组合与上一世代应用Cortex-M CPU相比,机器学习效能提升了480 倍。
Arm近期更推出Ethos-U65 NPU,在维持Ethos-U55的功耗效率下,将应用延伸至Arm Cortex-A与Arm Neoverse架构系统,为需求更高的应用推升效能至1 TOPs,赋予各种装置新能力。
PSA与PARSEC
除了PSA,Arm也定义出开源(open source)的PARSEC(Platform AbstRaction for SECurity)微服务,提供标准化的API介面连接硬体安全机制。