从随身行动装置到工业生产设备,高效能的运算技术已经普遍应用於生活中的各个层面。而在追求高效能运算的背後,低功耗设计往往却是能否降低发热量的重要关键。目前无论是随身行动装置、工业生产设备,或者任何介於两者之间的装置,其一致的发展趋势都是『高效能运算』,亦即数据吞吐量更大、运算更快、判断越来越正确、反应更即时等。但同时,高效能运算也代表更高的功耗。因此高效能运算能否再往更高的目标发展,在5G时代实现AI Everywhere的愿景,取决於能否有效而显着的降低功耗。
|
Arm主任应用工程师张维良 |
事实上,高效能运算的应用在不同装置与应用场景上,不外??以电池供应电源或者接市电,因此对功耗增加的忍受度不同。功耗增加对工业应用带来的是电费及散热成本增加,对行动装置来说其冲击则表现在电池使用的时限上,电池续航力不足,将影响使用者经验,例如智慧手机就是一个最好的例子。
Arm主任应用工程师张维良认为,降低功耗的方式除了透过半导体制程之外,也可以透过IP本身设计达到降低平均功耗的效果。若以Arm的Cortex-M系列处理器为例,原本就针对嵌入式系统设计一系列低功耗运算技术,包括Multiple Power Domain支援架构级的Sleep Mode、Wake-up中断控制器、架构级Power Gating技术。此外Cortex-M0+额外优化减少了程序存取,来保持系统层级的低功耗。
除了过往Cortex-M处理器针对低功耗技术来设计,Arm在新款的Cortex-M55处理器上,也针对高效能低功耗运算打造了一个ML引擎,这个名为Helium的向量运算引擎(MVE)可以有效率的降低运算与功耗比,意即Helium能在单位时间内处理约15倍以往Cortex-M系列的ML运算能力,但是功耗方面只略微增加几成。透过Cortex-M55搭配Helium技术能更符合IoT装置搭载AI运算的需求。