由於人工智慧物聯網等高效能運算技術,得益於神經網路技術的進步,機器學習不再侷限於超級電腦的世界了。如今智慧型手機應用處理器可以執行AI推論,用於實現影像處理和其他複雜的功能。這些邊緣運算裝置有許多是採用電池供電,因此對於系統的功耗有很高的要求,用來延長系統的工作時間。
對現今許多設計而言,功耗是選擇元件最重要的標準,因為可攜式產品的電池壽命越長,對消費者越有吸引力。在基礎設備應用中,低功耗也是一項重要規格,因為較低功耗代表晶片將產生較少熱量,過高的熱量可能會限制系統產品的通道密度,或使得設計團隊無法增加新的功能。此外,有些較著重電源成本的設計,例如以通用序列匯流排(USB)供電的產品,或由汽車電瓶供電的汽車修配零件產品等,其電力預算亦相對有限。
以恩智浦半導體(NXP)為例,其在打造更低功耗的運算解決方案時,除了在晶片設計上有許多創新,電源管理軟體的精密度亦大幅提升外,晶片製程方面也採用更先進製程生產。目標是讓系統設計人員不用於設計系統時為任一項功能遷就妥協。然而,沒有裝置十全十美,設計人員必須仔細考量系統需求,檢視目前不斷推出的低功耗處理器,以了解哪一項產品最符合應用需求。
恩智浦在2017年推出i.MX RT系列跨界處理器,兼顧功耗與性能。如今,不只推出i.MX RT1170突破GHz主頻限制,為更多應用開啟邊緣運算的大門。
恩智浦在近期也發表eIQ機器學習(ML)軟體對Glow神經網路(Neural Network;NN)編譯器的支援功能,針對恩智浦的i.MX RT跨界處理器,實現佔用較低記憶體並更高效能的神經網路編譯器應用。Glow編譯器由Facebook開發,能整合特定目標的最佳化,恩智浦利用這種能力,使用適用於Arm Cortex-M核心和Cadence Tensilica HiFi 4 DSP的神經網路運算元庫(NN operator libraries),最大化提升處理器的推論效能。
NXP的先進的半導體製程技術能塞下更多的電晶體,不僅可以提升工作頻率,縮減元件之間的間距之後,電晶體之間的電容也會降低,電晶體的開關頻率也得以提升,進而提升整個晶片效率。