帳號:
密碼:
CTIMES / 文章 /   
AI Everywhere勢不可擋 信任運算架構將成關鍵
將「思考」往終端移動

【作者: 王岫晨】   2021年04月29日 星期四

瀏覽人次:【487】
  

在邊緣端的人工智能逐漸成為發展的潮流。然而要為邊緣運算賦予 AI 智能,已經成為新的挑戰。Arm 應用工程總監徐達勇指出,在傳統上,決策的形成一向都集中在雲端與網路的中心,所有的數據與智能都往內部移動。這樣為網路技術與商業模型帶來龐大的壓力。未來我們必須刻意的把多數的「思考」向網路的終端移動,讓中央系統空出來,以數據趨勢與規律的集成為基礎,進行較長期的策略性決定。


把智能移到邊緣/終端可以提供許多的優點(請參考如圖一)。


。增加自主性


。提升隱私保護與資訊安全


。增加安全性


。減少頻寬


。降低功耗


。減少延遲



圖一 : 智能邊緣運算優點
圖一 : 智能邊緣運算優點

另外,關鍵需求要素如下(可參考圖二)。而其中,又以安全、數位訊號處理及機器學習,最為重要。


。異質化系統架構


。優化數位訊號處理器(DSP)


。功能性安全


。機器學習能力


。可擴充的處理能力


。平台安全架構(PSA)


圖二 : 邊緣運算關鍵需求
圖二 : 邊緣運算關鍵需求

可能的挑戰

根據Arm的調查(如圖三),超過 90% 以上的企業將會持續投資在 AI,在 2025 年以前,超過 90% 以上的企業應用程式都會包含機器學習的功能。可見邊緣裝置的部署的數量將非常龐大、應用也將非常多元而複雜,可以想見導入機器學習與 AI 的需求將趨於複雜與碎片化。單一的解決方案已無法因應如此龐大、多元且複雜的需求。



圖三 : 超過 90% 的企業將會持續投資 AI
圖三 : 超過 90% 的企業將會持續投資 AI

徐達勇說,特定處理(Specialized Processing)將提供開發者所需的彈性(如圖四),並針對不同的工作負載,提供最佳組合的運算處理單元。Arm 擁有的處理器平台整合更高的彈性、效率與安全性,CPU,GPU 與 NPU,協助合作夥伴在他們所處的市場,打造合適的產品。例如:


。用 Cortex CPU 來處理小型的機器學習工作負載應用將擁有最大的彈性以及擴充性,並確保未來不會過時;


。針對在廣泛的數據類型範圍內,要求必須在更高效能與良好的可程式性之間取得平衡的應用,對此需求提供了具備更佳機器學習支援的 Mali GPU;


。針對需要低功耗且高省電要求機器學習工作負載的應用,提供了可擴充的微型 Ethos-U NPU,為最小的裝置提供彈性、功效與優化。當然運算需求較高的工作負載,也有專屬 Ethos-N NPU。



圖四 : 特定處理將提供開發者所需的彈性
圖四 : 特定處理將提供開發者所需的彈性

Arm的在 AI 平台發展策略

龐大的 AI 應用需要「專用」且「可擴充」的解決方案。


全球於 2025 年左右預計將有超過 80 億個正在使用中、具 AI 功能的語音助理裝置,而 90% 或更多的終端應用將包含 AI 元素以及基於 AI 技術的介面。機器學習將成為運算無所不在的一部份,並將被運用在終端裝置、網路邊緣、手機與筆電等各類應用、汽車與工廠運算核心,以及雲端伺服器。


逾九成的頂尖企業將持續投資 AI,Arm也持續為合作夥伴提供多種 IP 執行機器學習工作負載。


到了2025年,估計超過九成的新企業應用程式將嵌入機器學習;運算裝置將受惠於更多在 CPU、GPU、NPU 的硬體支援,以應對更吃重的機器學習工作負載。Arm 所有處理器與 IP 皆具備機器學習能力,且發展為獨特的 AI 平台,為合作夥伴提供多種 IP 選擇,以執行像機器學習這樣「特定且被優化」的工作負載。


因應多元的工作負載,「特定處理」將成為所有運算形式的創新關鍵。


通用型處理器過去可以滿足大多數的需求,包括桌上型電腦或車用電子產品。但現在,合作夥伴對於高效處理的需求大幅改變,每隔幾年需求就翻倍,且變化速度愈來愈快,因此 SoC 的合作夥伴需要配置不同的特定處理元件,以符合其需求。


Armv9架構為CPU提供全新的向量處理能力「SVE2」。


Arm可擴展的向量延伸指令集(SVE)曾協助富岳成為全球速度最快的超級電腦;Armv9 將包含這些延伸指令集的下一個版本 SVE2,大幅強化機器學習與數位訊號處理等能力。SVE2 也將強化在 CPU 上運行的 5G 系統、虛擬與擴增實境與機器學習等工作負載的處理能力,例如影像處理與智慧家庭應用。Arm 也將強化 CPU 內部的矩陣乘法能力,進一步擴展 Arm 技術的 AI 能力,並持續進行 Mali-GPU 與 Ethos-NPU的AI創新。


邊緣 AI發展重點

徐達勇認為,邊緣AI未來的發展方向可以專注在一個關鍵點上,就是AI Everywhere。先來看看AI的四大主要應用場景包括如下:


。物聯網/ 嵌入式應用


。手機/ 消費性電子


。車用


。網路與伺服器


為了達到 AI Everywhere 的願景,有以下幾大領域需要我們特別注意:


延遲:5G 的全球部署將帶動更快的資料傳輸、更多的連結,機器學習必須在數據產生的當下就運作。


功耗:更低的能耗、更長的電池壽命。


資料:數據/資料分布在各處,因此機器學習也要在各處執行。這需要系統運作與軟體堆疊。


安全:安全的運算需要安全的機器學習解決方案。


運算將成為分散式的工具,每個運算需求都要在最適合的平台運行,信任運算基礎架構將是管理資訊安全與隱私性的關鍵。以Arm新近發表的Armv9架構為例,特別提出機密運算架構(Confidential Compute Architecture;CCA),它可協助在硬體架構的安全環境中執行運算,並保護部份的程式碼與數據不被存取或修改,甚至是特殊權限軟體也無法存取與修改。


相關文章
助智慧機械跨足核心戰略產業 CNC數控系統聚焦專用需求
電動車時代已揭開序幕:五項成功必備要素
AI技術加值零售新視力 智慧應用方案增進效益
封裝與晶粒介面技術雙管齊下 小晶片發展加速
機器學習變革工業製造流程的四種方式
comments powered by Disqus
相關討論
  相關新聞
» 安全、高效及省電為要 Imagination以GPU、EPP及NNA為三大發展主軸
» 全球首款應急物資加密貨幣 E3E地球幣IEO發行
» Arm發表改變次世代基礎設施運算的Neoverse平台
» ROHM研發出150V GaN獨創結構 將閘極耐壓提升至8V
» Supplyframe全球最大電子產品價值鏈平台落腳台北
  相關產品
» Power Integrations新款PFC控制器 滿載效率高達98%
» Silicon Labs新款IoT無線產品獲Wi-SUN認證 加速智慧城市部署
» HPE推出進化版HPE SimpliVity 強化企業邊緣的資料保護能力
» ST推出高精確度運算放大器 瞄準節能型功率轉換應用
» 大聯大世平推出基於NXP的智慧家居ZigBee開發系統方案

AD


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw