我們現正目睹物聯網規模展現指數型成長的態勢。每一秒鐘,就有127部新裝置聯網,預計至2027年,全球將有430億個物聯網裝置。生活將變得更加多采多姿,相關系統解決方案需求也隨著此市場而成長、演變,消費者要求更精細、更強大且節能而準確的功能。
物聯網未來發展非常令人振奮,而邊緣人工智慧(edge AI)正是眾多關鍵技術推手之一,因其能在物聯網邊緣實現資料分析、提供預測性見解與智慧決策,進而強化物聯網功能。
首先,我們先介紹基本概念:什麼是邊緣 AI?
開發人員和使用者或許已相當熟悉人工智慧(AI)和/或機器學習(ML),但「邊緣AI」這個詞彙則不然。邊緣AI是指AI應用的實作和部署位置落在邊緣運算環境內,或是接近資料所在的裝置中,而非雲端運算設施之類的集中環境。
邊緣AI在實務上的作業,包括從感測器或追蹤器、健康監測裝置等其他來源收集資料,並直接在邊緣裝置機器上以AI模型進行處理,然後將模型的輸出用於觸發動作或傳送通知。邊緣AI在本機上處理資料,有助大幅加速推論作業並支援即時使用案例,減少延遲時間和網路流量,強化隱私與安全,同時實現節能效益。
如今,開發人員正在思索邊緣AI各式各樣的使用案例和應用,例如家電和智慧家庭系統採用的臉部/手勢辨識、穿戴式裝置和健康監測裝置、工廠自動化的預測性維護,以及搭載AI的監視攝影機,可即時偵測並應對可疑活動,不僅能夠提升效率,更可降低服務費用。
AI部署常見使用案例,包括能進行語音辨識分析的智慧喇叭和語音助理技術,背後功臣則是一系列複雜的AI技術,例如自動語音辨識(ASR)將聲波轉換為文字,再運用自然語言理解(NLU)擷取其實際意義,然後智慧喇叭透過自然語言產生(NLG)技術產生回應。
智慧家庭市場也出現全新趨勢,AI在此的用途是提升邊緣裝置效率,並創造順暢自然的使用者體驗。其他案例更涵蓋洗衣機調整水量、洗衣精用量、清洗和脫水時間,以提升洗衣效率;恆溫器習得使用者偏好溫度、偵測室內外溫度、區別房內是否有人;烤箱依據使用者的口味偏好製作客製化餐食,同時確保只有成人能操作裝置以維護安全;甚至是吸塵器能區分地板類型,實現最佳清潔和電池效率。這所有的使用案例皆仰賴邊緣實作的複雜 AI 演算法。
一股新興趨勢或技術勢必擁有截然不同的挑戰及應注重的關鍵面向,邊緣 AI 也不例外。目前,邊緣 AI 在下列層面的衝擊尤其明顯:
效能提升(與低功耗)
物聯網持續成長推升感測器需求,因此必須分享更多資訊,同時裝置複雜性也會上升,以因應運算功能增加的需求。目前裝置本身處理機器學習作業的能力日益多元,因此,高效能核心必須搭配神經網路運算硬體加速器以支援機器學習作業,在這新一代邊緣裝置崛起的環境中,這兩者缺一不可。
然而,若要實現功耗最佳化,讓電池驅動終端裝置更省電、提升運作效率並減少耗電,則上述要求會面臨更加嚴峻的挑戰。好消息是:邊緣裝置儲存資料並執行演算法,較所有資料傳送至雲端所消耗的能源更少。
安全與隱私
邊緣 AI 裝置本身會執行多數作業與資料處理,減少傳送至雲端和外部位置的資料量,降低安全和隱私疑慮,但這不代表邊緣 AI 裝置上的所有資料永遠不會遭遇攻擊。安全攻擊不斷演化,因此所有邊緣 AI 裝置都必須內建強大、層級適當的安全機制,以利維護資料完整性和隱私。
缺乏專業知識、耗費時間、無全方位支援
沒有適當的專業知識,幾乎不可能開發邊緣 AI 裝置,例如不瞭解如何使用針對 AI/機器學習最佳化的特定加速器和處理器等硬體,或是 AI 模型開發與部署採用軟體的使用經驗不足。知識不足加上耗時疑慮,恐怕會導致開發人員選擇不採用最佳實務,或限縮管理團隊制定適當決策的能力。
當然,這些案例也都必須仰賴全方位而強大的軟硬體,搭配專家提供的端對端工具鏈解決方案,以降低新一代邊緣 AI 裝置的不確定性,並且加速上市時間。
英飛凌 PSoC Edge 能解決邊緣 AI 的挑戰,結合全新微控制器系列的多樣特性,例如高效能、低功耗、尖端安全和全方位支援微控制器,有助加速上市時間。
如前所述,由於邊緣匯集大量感測器,而且必須處理複雜資料,因此系統複雜性上升,但也促使微控制器領域不斷突破效能極限。同時,低功耗與高能源效率,依舊是當今物聯網領域最迫切的需求。
圖二 : 由於邊緣匯集大量感測器,而且必須處理複雜資料,因此系統複雜性上升,但也促使微控制器領域不斷突破效能極限。 |
|
為了滿足這些要求,英飛凌推出採用多域架構的 PSoC Edge,提升效能實力,包括高效能核心和硬體加速神經處理器單元,同時強化能源效率,融合常時在線應用適合的超低功耗域。
如此一來,物聯網裝置在深度睡眠模式中,仍可偵測聲學事件或臉部偵測動作及觸發動作,將系統全面喚醒、執行必要任務後,再恢復睡眠模式,大幅提升能源效率、延長電池續航力,且不會犧牲效能。因此,邊緣 AI 不只可加速數位化進程,也可透過功耗最佳化協助達成去碳化。
如上所述,另一項關鍵挑戰在於保護資料,且必須盡可能減少安全威脅。有鑑於此,解決方案供應商的邊緣 AI 產品、服務必須隨附更高層級的安全機制,讓消費者有更多安全裝置的選擇。若邊緣 AI 裝置未能設置妥善保護措施,則可能會遭到竄改,成為網路破壞的切入點。此外,攻擊者可進一步掌控整體市場上具備邊緣 AI 能力的裝置,例如恆溫器、智慧喇叭或智慧鎖,並分析其弱點、打造惡意軟體,藉此入侵整個技術和網路。基於這些原因,新型邊緣 AI 裝置必須內建強大、層級適當的安全架構,如同新推出的PSoC Edge。
最後,英飛凌深知邊緣AI裝置上市時間的重要性。英飛凌近期收購Imagimob後,新增了端對端機器學習平台─彈性高、簡單易用,並且著重在交付生產級機器學習模型。PSoC Edge擁有堅實生態系統合作夥伴、完整文件、具連線能力和人機介面模組的評估套件,以及ModusToolbox軟體,並整合Imagimob 邊緣AI開發平台和Ready Model,可加速具備機器學習能力的微控制器進入可驗證的量產流程,因此,PSoC Edge是一套完整的硬體、軟體和工具組合,有助實現順暢的設計作業並加速上市時間。
(本文作者Omar Cruz為英飛凌科技 PSoC Edge 產品管理資深經理)