帳號:
密碼:
CTIMES / 文章 /   
選擇邊緣AI裝置的重要關鍵
 

【作者: Toby Mcclean】   2021年06月07日 星期一

瀏覽人次:【1127】
  

邊緣運算已成為最廣受討論的科技趨勢之一,因此,您可能也開始思考該為物聯網投資智慧邊緣技術了。然而,在確認採購邊緣裝置之前,讓我們先了解一下,邊緣運算到底是什麼、我們需要它來做什麼,以及探討您的應用真的能因邊緣技術而受惠嗎?


雖然邊緣運算能夠為物聯網系統增添相當大的彈性、速度與智慧能力,但邊緣AI 裝置並非智慧網路應用面臨所有挑戰時的萬靈丹。本文將討論說明,當買家在評估購買邊緣AI裝置時,應首要考量的功能與思考關鍵。


何謂邊緣運算?

邊緣運算讓物聯網更上一層樓,換句話說,邊緣運算能夠讓原始資料即時的在邊緣裝置中轉化出它的價值。藉由重新分配整個網路的資料運算工作,它可提升所有節點、終端與其他智慧裝置之重要性與管理方式。


邊緣運算與雲端運算幾乎背道而馳。雲端運算讓資料從分散的網路流向集中式的資料中心,進行運算之後再將運算結果傳回原來的分散網路,以觸發某項行動或影響某種改變。然而長距離傳輸大量資料牽涉到許多成本,有些可以用金錢衡量,還有一些是關鍵的用電或時間成本問題。


當用電、頻寬、網路延遲等問題真的面臨挑戰之時,邊緣運算可能就是解藥。不同於雲端運算集中處理的模式,資料可能從數百英哩以外的地方來,邊緣運算在網路邊緣感測、產生或駐留之處實現資料運算。這意味著網路延遲問題幾乎可解,電力與頻寬需求也大為降低。


促成當今邊緣運算的主要功臣之一為半導體製造業者,半導體的進步使得晶片運算能力增加,耗電卻未大幅增加。這意味著位處邊緣的處理器可以利用所獲取的資料發揮更多的功能,卻不增加用電。如此更多資料就可以留在網路邊緣,無需送回核心。除了為整個系統節省電力使用,邊緣運算還可增加反應時間並改善資料的隱私性。


因此獲益的科技還有人工智慧(AI)和機器學習(ML),AI和ML同樣要仰賴降低資料取得成本和增強資料隱私的性能。在成本和隱私兩件事上,邊緣運算都兼顧了。就AI和ML等新興科技而言,過去需要巨大資源才能成事,往往不是終端或智慧型裝置能夠負擔。如今,由於軟硬體技術的進步,已經可以在位處網路邊緣之較小型、資源較有限的裝置上實現。


評估邊緣AI

選擇一個能夠執行可能包括執行AI演算法或ML推理引擎邊緣處理的平台,需要仔細評估。從一般的感測器或致動器,到物聯網的感測器與致動器,都可以使用比較適中的整合裝置來實現。欲增加邊緣執行的運算量,則需要更強大的平台,譬如使用高度平行架構。這通常意味著使用一顆GPU進行平行運算,但如果平台功能太強大,也會造成資源有限網路邊緣的負擔。


由於邊緣裝置基本上就是與真實世界的交界處,因此可能需要一些常見的介面技術支援,例如乙太網路、GPIO、CAN、序列接口及(或)USB,也可能需要相機、鍵盤、顯示器之類的周邊設備支援。


異於一般資料中心機房處於不怕風、不怕雨的舒適環境,邊緣環境非常的多元。邊緣裝置可能暴露在極端的溫度、溼度、震動、 甚至海拔條件,這對選用的裝置將造成衝擊,也影響到裝置如何包裝、機殼如何打造。


另一個需要考量的重要方面是法規要求。任何使用無線頻率(RF)進行通訊的裝置都受到法律的規範,並可能需要取得許可才可以操作,有些平台在出廠前即考慮到這些,因此可以「開箱即用」,有些買來則還要費些力氣取得許可。一旦上線運轉,就很難再獲得硬體升級,因此在設計階段就必須謹慎決定需要的運算能力、記憶體和儲存能力,以方便未來可能的擴充需求。


不同於硬體,軟體升級可以在裝置上線後才部署,現在空中編程更新(over the air updates;OTA)十分普遍,未來可能所有邊緣裝置在設計時,便需納入OTA支援。


選擇正確的解決方案,需細心考量上述重點,並且仔細了解應用的個別要求。這項裝置需要處理視訊或音訊資料嗎?還是只需處理溫度?需要兼顧其他環境面向嗎?需要時常開機備用、還是會有長時間休眠嗎?會被外在事件觸發嗎?這些問題適用所有部署在邊緣的技術,往往當運算水平提升的同時,對結果的期待和需求也會隨之而來。


邊緣運算的優勢

如今技術上已可以做到同時將AI和ML置入邊緣裝置和智慧節點。這意味運算引擎距離資料來源更近,能更快利用所收集之資料來處理更多的事。


這麼做極具意義及進展。首先,邊緣運算可以增加生產率或資料被利用的效率。其次,因為不需要再搬運那麼多資料,邊緣運算可簡化網路架構。第三,資料中心的距離遠近就不再那麼重要。如果資料中心位於市區且離行動地點很近,那也許沒甚麼問題,但對於位處偏遠的網路邊緣系統就大大不同了,例如農場或是汙水處理廠。


無可否認,網路傳送資料的速度非常快。許多人可能會覺得非常驚訝,當在網路上輸入搜尋直到搜尋結果呈現在的螢幕上,搜尋的問題可能已經跑地球兩圈了!搜尋所需要的時間可能只有幾分之一秒,對我們來說,這幾乎是瞬時的,但對於構成智慧物聯網的機器或其他裝置而言,許多是智慧型、自動化的感測器和致動器,每一分之一秒的感覺都像一個小時之久。


這種往返的旅程延遲正是即時系統地製造商和開發人員所真正關切的。數據往返資料中心所花的時間並非無所謂,也因此不能稱之為即時。邊緣運算的主要目標就是要降低這種延遲。邊緣運算配合更加快速的網路一起工作,5G也扮演了一角。但因為更多裝置又上線了,更快速的網路登場也無法彌補累積的網路延遲。


分析師預測到2030年以前,將可能有高達500億個裝置連結在網路上。如果每個裝置都需要大頻寬通往資料中心,網路將會塞到天荒地老。如果這些裝置當中有許多是在流水線上操作,等著資料從上一個階段 下來,耽擱的時間加起來便很可觀。邊緣運算可說是解除網路壅塞的唯一可行之道。


雖然總體而言,邊緣運算的需求明確,但邊緣運算所能達到的具體好處,主要還是要視應用而定。說到這,就是邊緣運算四法則派上用場之時了。這些法則可幫助工程團隊評估,邊緣運算對個別的應用而言是否為正確的選擇。


邊緣運算4法則

第一條法則是物理法則,是無法改變的。無線電波以光速前進,光纖網路中的光子亦然,這是好消息。但壞消息是它們不可能更快了。因此,如果資料往返還是不夠快,那邊緣運算可能就是正確的選擇。


Ping是一種用來檢測封包速度的簡單工具,可測量資料封包在網路連結的兩端傳輸所花費的時間。線上遊戲主機通常不只一部,玩家會用Ping測試每一部伺服器,直到找到延遲時間最短的那一部主機,最短延遲意即資料在網路上傳輸最快的速度。這證明對於時間敏感的資料而言,每一瞬間都是致勝關鍵。


延遲也不全然因傳輸機制而起,在每一個端點都有編碼器和解碼器,實體層需要將電子轉換成正在使用的能量形式,然後再轉換回來。這些都需要時間,即便使用 GHz 速度等級的處理器,時間還是有限的,速度還是要視正在搬運的資料量而定。


第二條法則是經濟法則。這條法則可能稍微有彈性,但隨著對運算和儲存資料的需求飛升,它也是變得較不可預測。利潤總是微薄的,但如果雲端處理資料成本突然上升,經濟法則便證明了賺賠之間的差別。


雲端服務之成本就從購買或租用伺服器開始,伺服器可能是機架式伺服器(Rack)或刀鋒伺服器(Blade)。價格不一而足,視使用的CPU數量、記憶體容量、是否需進行永久性儲存以及服務等級而定。有保障正常運轉時間會比沒有保障來得貴。網路頻寬基本上是免費的,但如果所需的頻寬有最小限制,便應預期付費,這在評估成本時需列入考量。


也就是說,在網路邊緣處理資料並非受這類變動成本支配。一旦投入設備開辦費,於邊緣處理任何數量資料之額外成本幾乎是零。


資料的價值在於它意味或代表某樣東西。 這就突顯了第三法則的重要性─領土法則。任何獲取資訊之人現在都受到資料獲取地之隱私法規範,意即如果是該取得資料裝置之法定擁有人,可能不被允許將資料移出邊境。


相關法規例如歐盟個人資料保護指令(EU Data Protection Directive)、一般資料保護規範 (GDPR)及亞太經濟合作會議隱私綱領(APEC Privacy Framework)。加拿大的聯邦個人資料保護及電子文件法(Personal Information Protection and Electronic Documents Act)遵照歐盟資料保護法規,美國的安全港原則(Safe Harbour Arrangement)亦然。


邊緣運算可以克服這點。在邊緣處理資料,並不需要將資料移出裝置。資料隱私對於可攜式消費電子裝置愈來愈重要;行動手機之人臉辨識使用本機AI 處理相機影像,資料也就不會離開裝置。對於CCTV和其他安全監視系統也是如此。公共場所使用監控攝影鏡頭,通常意味著影像會被轉移到雲端資料伺服器進行處理,這有隱私疑慮。直接在相機處理資料會更快速且更安全,可能就無需採用或簡化資料隱私保護措施。


最後,我們需要考慮莫非定律,這定律是說,如果有什麼事可能出錯,那就會出錯。當然,永遠都有事情會出錯,即便是全世界最小心設計的系統還是會有出錯的可能。邊緣運算把許多可能出錯的點拿掉,這些可能出錯的點與網路上的資料搬移、雲端儲存及對資料中心主機運算能力的仰賴有關。


釐清邊緣運算的問題

如果一項應用在技術上可受益於邊緣運算,還是會有很多問題需要釐清。以下簡單列出最相關的問題:














































序號



需要釐清邊緣運算的問題集




1




您的應用會在哪一種處理器架構上執行?


將軟體移出到不同的指令集所費不貲且可能造成延遲,所以往上走不代表要向外移。




2



您需要使用那些I/O


有可能是任何數量的有線和/或無線介面,事後盤點永遠不夠,需預先規劃。




3



運作環境如何?


是極端熱、極端冷還是冷熱交鋒?譬如火星任務便是一個好的但也許極端的例子,這說明「邊緣運算」所處環境變化可以有多大!




4



您的硬體需要符合哪些規範或需要認證嗎?


答案幾乎肯定「是」。所以選購預先取得認證的平台可以節省時間和金錢。




5



您的應用需要多少功耗?


以設備價格和安裝費用而言,系統供電是不便宜的。所以知道多少才「夠」是相當有益的。




6



邊緣裝置是否會受制於某些尺寸型態因素


這點對邊緣運算而言尤為重要,所以需要在設計階段就考慮進去。



7



運行使用時間是多久?是需要運轉許多年的工業應用?或是生命周期以月衡量?




8



系統處理效能需求為何?影像每秒幀數多少?記憶體需求如何?應用程式語言為何?




9



有價格考量嗎?


這明知故問,因為答案一定是「肯定的」,但知道價格上限對於選購過程還是有幫助的。



結論

邊緣運算不僅是由物聯網所實現,也是人們對先前的連結裝置有更高的期待所致。在低層次問題上不離其宗,裝置需要低耗能、低成本,但現在還賦予更高層次的智慧操作卻不致與功耗和成本產生衝突。


(本文作者Toby Mcclean為凌華科技AIoT技術與創新副總裁)


相關文章
收集模型測試覆蓋程度度量資料的理由
由壓力及應變管理提升高精度傾斜/角度感測性能
創新設計推動電動汽車增長
新型狀態監測應用部署預測性維護功能
人機介面4.0的未來主流
comments powered by Disqus
相關討論
  相關新品
EM500EV 測試/開發板
原廠/品牌:集博
供應商:集博
產品類別:IDE
  相關新聞
» 3DEXPERIENCE平台協同數位產研行銷 實威7月29日舉行線上發表會
» TMUxBE比翼與北醫生醫加速器計畫促進新創臨床合作機會
» 趨勢與GSMA Intelligence揭露5G專網商機 近半電信業者無力補漏洞
» 雲端化加快數位轉型 SolidWorks提供彈性完整解決方案
» TrendForce:Graphics DRAM市場貨況短缺 預估價格續漲
  相關產品
» 企業管理遠距、零接觸、可追蹤 震旦雲六大方案助推防疫
» 凌華科技推出支援Thunderbolt 3的可攜式PXI Express機箱
» TYAN發佈伺服器及主機板支援第二代Intel Xeon
» 大聯大品佳集團推出240W電競筆記型電腦變壓器解決方案
» JIUN推出新款雲端醫學影像管理系統

AD


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw