從隨身行動裝置到工業生產設備,高效能的運算技術已經普遍應用於生活中的各個層面。而在追求高效能運算的背後,低功耗設計往往卻是能否降低發熱量的重要關鍵。目前無論是隨身行動裝置、工業生產設備,或者任何介於兩者之間的裝置,其一致的發展趨勢都是『高效能運算』,亦即數據吞吐量更大、運算更快、判斷越來越正確、反應更即時等。但同時,高效能運算也代表更高的功耗。因此高效能運算能否再往更高的目標發展,在5G時代實現AI Everywhere的願景,取決於能否有效而顯著的降低功耗。
|
Arm主任應用工程師張維良 |
事實上,高效能運算的應用在不同裝置與應用場景上,不外乎以電池供應電源或者接市電,因此對功耗增加的忍受度不同。功耗增加對工業應用帶來的是電費及散熱成本增加,對行動裝置來說其衝擊則表現在電池使用的時限上,電池續航力不足,將影響使用者經驗,例如智慧手機就是一個最好的例子。
Arm主任應用工程師張維良認為,降低功耗的方式除了透過半導體製程之外,也可以透過IP本身設計達到降低平均功耗的效果。若以Arm的Cortex-M系列處理器為例,原本就針對嵌入式系統設計一系列低功耗運算技術,包括Multiple Power Domain支援架構級的Sleep Mode、Wake-up中斷控制器、架構級Power Gating技術。此外Cortex-M0+額外優化減少了程序存取,來保持系統層級的低功耗。
除了過往Cortex-M處理器針對低功耗技術來設計,Arm在新款的Cortex-M55處理器上,也針對高效能低功耗運算打造了一個ML引擎,這個名為Helium的向量運算引擎(MVE)可以有效率的降低運算與功耗比,意即Helium能在單位時間內處理約15倍以往Cortex-M系列的ML運算能力,但是功耗方面只略微增加幾成。透過Cortex-M55搭配Helium技術能更符合IoT裝置搭載AI運算的需求。