帳號:
密碼:
最新動態
產業快訊
CTIMES / 文章 /
邊緣運算需求引爆 軟硬體協同開發是最大挑戰
讓演算法充分優化

【作者: 王岫晨】   2020年05月22日 星期五

瀏覽人次:【33188】

智慧生活相關裝置不斷增加,這也展現出了邊緣運算的重要性。


許多邊緣運算裝置是採用電池供電,因此對於系統的功耗有很高的要求。


這些裝置也必須對隱私數據進行保護,讓核心運算在邊緣端可以更安全。


AI正逐步深入生活的各層面,許多裝置都漸漸需求更高的運算效能。事實上,智慧生活相關的裝置,越來越多普遍都必須依賴AI演算法。這些應用場景對低功耗和安全性都有很高的要求,這就展現出了邊緣運算的重要性。


邊緣運算裝置有許多是採用電池供電,因此對於系統的功耗有很高的要求,用來延長系統的工作時間。此外,這些裝置往往需要處理個人隱私數據,比如臉部特徵、聲音特徵等,因此必須對隱私數據進行充分的保護,讓核心運算在邊緣端可以更安全的實現。


軟硬體協同開發是最大挑戰

邊緣運算需要充分利用嵌入式設備來完成,因此需要對軟體演算法進行充分優化,更高效利用硬體特殊結構,如DSP、GPU、與神經網路加速器等。

恩智浦半導體大中華區邊緣運算事業部產品行銷經理弋方指出,目前邊緣運算最大的挑戰是在於軟體與硬體的協同開發。邊緣運算需要充分利用嵌入式設備來完成,因此需要對軟體演算法進行充分的優化,更高效的利用硬體的特殊結構,如DSP、GPU、與神經網路加速器等。


而此時,客戶將會需要整套完整的解決方案,包含軟體開發環境、高效的推理引擎、用來快速地將演算法移植到嵌入式平台,以實現邊緣運算。


面對這樣的需求,NXP從硬體和軟體兩個方面來提高智慧終端應用裝置的效能。NXP推出了eIQ這一種開發工具,包含了常用的推理引擎,可以讓客戶應用在設計的快速部署上。在人臉辨識應用中,NXP推出基於MCU和MPU的不同方案,可覆蓋多種不同的應用場景。


隨著5G興起與AI的擴大應用,弋方也認為,5G帶來更大的頻寬、更低的延遲,同時也帶來更多的應用場景,如AR/VR、工業乙太網、智慧交通等,而AI的擴大應用,對邊緣運算的安全性和時效性也提出了更高的要求。這些需求的產生,未來NXP也將會持續開發新一代的產品線,來應對市場所需。


AI驅動智慧物聯

智慧物聯網是AI趨勢下驅動的一個市場方向,其應用也將擴及至智慧交通、環境保護、政府工作、公共安全、工業監測、智慧醫療、水質監測、商品追蹤、智慧製造等多個領域,也可能徹底顛覆公部門對各項公共設施的維運管理,進而改變人們工作、生活與商業營運的方式。


Arm首席應用工程師沈綸銘指出,在智慧物聯的架構之下,運算正由雲端轉移到邊緣。隨著人工智慧技術日益成熟,智慧運算已可在資源受限的邊緣執行。各式應用智慧物聯需求,驅動著運算從雲端伺服器到邊緣運算裝置上。這種轉移的重要性可分別從幾個面向探討:


‧ 釋放更多的應用可能性:不再受限雲端伺服器成本以及雲端傳輸延遲,提供使用者更多樣性的應用服務;


‧ 更好的隱私保護:使用者不需要將本地的資料上傳雲端伺服器進行運算,可避免有心人士惡意的攻擊。


‧ 提升智慧物聯的速度與效能:因智慧終端裝置數的增加,邊緣運算可以加速智慧物聯的速度,並分擔運算中心的運算與效能需求,將運算技術下放到終端除了可以縮短反應時間,更可以提升智慧應用的效率。


所謂智慧終端,即是在原本裝置上需要具備AI算力與安全性的能力。以Arm目前的產品為例,M55與U55是Cortex-M系列產品經過這兩方面需求強化下的下一代產品,AI算力是原M4的480倍,並具有TurstZone功能,更能符合智慧物聯的安全性需求。


軟硬體整合

建置安全的物聯網需要軟硬體整合。Arm在其解決方案上,也是從這兩方面來解決客戶的問題。這包括了IP解決方案與管理平台解決方案等。


IP解決方案

‧ 運算與儲存能力的提升:Arm可提供很廣的IP組合(Portfolio),以CPU為例:從最高效能的CPU Cortex A、針對企業用戶的Neoverse系列、針對即時系統的Cortex –R,以及針對低功耗物聯裝置的Cortex M系列。


‧ 能耗與效率的提升與平衡:Arm最新的M55針對ML運算導入了Helium新的技術,相較於以往Cortex-M系列處理器強化了15倍ML效能的算力,同時功耗只增加一倍,搭配U55又能再次增強32倍的ML算力,對邊緣運算需求的趨勢,是能夠兼顧能耗與效能的平衡方案。


‧ 如何讓可連線的裝置更安全 - M55導入了TrustZone功能,搭配Corstone-300子系統可以整合Cryptocell-312安全性IP能提供更高的安全性防護。


管理平台解決方案

隨著這麼多裝置同時連網,大量資訊的碎片化與多樣化問題就會浮現。為了解決這難題,Arm推出了Pelion物聯網平台, 提供安全解決從裝置到資料之間複雜難題的解決方案。這個物聯網平台能一站管理連接、裝置與資料,幫助企業連接並管理全球網路中任何可信任的物聯網裝置,從中提取即時資料,加速實現部署物聯網的價值。


‧ 資料管理(Data Management Services)


當資料爆量,就需要一個資料管理服務,將物聯網裝置中可信任的資料與企業中相關的資訊連結,透過預測性分析隨時更新及優化資料,取得有意義的洞察。


‧ 裝置管理(Device Management Services)


裝置管理則是可以安全、可靠地加入、連接和更新各類物聯網裝置,並進行生命週期管理,部署於企業內部(on-premises)或者雲端。


‧ 連接管理(Connectivity Management Services)


想要做國際物聯網的生意,跨國能力就很重要。只需一份全球性合約,連接管理平台即可簡單、安全、經濟且高效率地連接不同網路標準的各類物聯網裝置。



圖一 : Arm針對邊緣運算推出Pelion物聯網管理平台
圖一 : Arm針對邊緣運算推出Pelion物聯網管理平台

針對AI運算處理進行優化

Cortex-M55與U55具備針對AI算力的增強,相較以往Cortex-M產品針對AI運算處理做更進一步的優化,並且增加了 TrustZone 功能以符合市場安全性的需求,並且Arm針對M55與U55提供單一的開發工具環境能簡化開發者工具的複雜度,採用M55與U55透過Arm生態系統結合後,不但降低風險,同時可加速產品上市時程。



圖二 : 對AI運算處理進行優化,讓終端設備提升ML能力。
圖二 : 對AI運算處理進行優化,讓終端設備提升ML能力。

結語:引爆邊緣運算需求

而在5G技術逐漸邁向商用之際,Arm首席應用工程師沈綸銘認為,相較上一代的4G技術,5G強調的是更快的速度、更低的延遲、更多的連結數量,這些特點將引爆更多種應用與Edge Computing 的需求,介於End-Device 到雲端之間的裝置將越來越多。


從5G傳輸的邊緣運算能力來看,不論是RU(Radio Unit)、DU(Digital Unit)或者CU(Centralized Unit),Arm都有相對應的解決方案,知名的合作夥伴如Marvell、NXP等,他們都有提供DU與CU的解決方案,這些都已有概念驗證PoC(Proof of Concept)。


在未來世界,端點裝置(end-point device)也能有資訊運算能力(Intelligence)。Arm的佈局就是在傳統CPU 工作負載的效能以外,再多加一個象限,也就是AI 與機器學習的表現。所以Arm近期發表的Cortex-M55,它的CPU傳統工作負載表現大約在Cortex-M4 等級,但其機器學習的表現則較Cortex-M4高出15倍。


對於End Point 端、Cloud Service、Content Provider等,這一路上所有的中間廠商都會因5G與邊緣運算受益。而採用Arm M55與U55將能更快符合5G時代邊緣運算上的需求。


相關文章
藍牙技術支援精確定位
結合功能安全 打造先進汽車HMI設計
EdgeLock 2GO程式設計簡化設備配置
結合功能安全,打造先進汽車HMI設計
以協助因應AI永無止盡的能源需求為使命
comments powered by Disqus
相關討論
  相關新聞
» 智慧校園 ICT+AI 把關 7-11未來超商X-STORE 8啟動
» Anritsu Tech Forum 2024 揭開無線與高速技術的未來視界
» 光寶攜手新加坡科技設計大學 推動5G創新節能應用
» 松下汽車系統與Arm合作標準化軟體定義車輛 加快開發週期
» 施耐德電機響應星展銀行ESG Ready Program 為台灣打造減碳行動包


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.3.135.190.244
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw