邊緣運算是一種分佈式運算的概念，它可將智能整合到邊緣設備（或稱為邊緣節點），並允許在數據收集來源附近即時處理並分析數據。在邊緣運算中，數據不需要直接上傳到雲或集中數據處理系統。

圖一 : 邊緣運算目的是減少集中遠端位置執行的運算量，進而最大限度地減少異地用戶端和伺服器之間所必須產生的數據傳輸量。

目前大多數企業都是在集中式的儲存設備上，來進行資料的儲存、管理和分析等作業，這些儲存設備通常在公共雲或私有雲環境中。但是，傳統的基礎架構和雲端運算不再能夠滿足許多實際應用程序的要求。例如，在物聯網（IoT）和萬物互聯（IoE）的情況下，需要具有最小延遲的高可用性網絡來即時處理大量數據，這在傳統IT基礎設施上是不可能達到的，而這也使得邊緣運算的優點變得更加明顯。

邊緣運算的特點

在邊緣運算中，數據在數據收集來源附近處理，因此不再需要將數據傳輸到雲或本地數據中心進行處理和分析。這種方法將減輕網路和伺服器上的負載。由於這種即時處理數據的能力及其更快的響應時間，使得邊緣運算在物聯網領域，特別是工業物聯網（IIoT）中具有很高的應用性。除了能夠加速工業和製造業的數位化轉型之外，邊緣運算技術還可以實現包括人工智慧和機器學習在內的更多創新。

圖二 : AI的應用需求明確，許多原先由雲端運算的產品都紛紛轉向終端運算處理。

雲端運算和邊緣運算之間的主要區別，在於集中式運算環境。在雲端運算中，數據在集中位置被收集、處理和分析。至於邊緣運算則是應用於分散式運算環境。在雲解決方案中無需選擇雲端運算和邊緣運算，它們不會相互競爭，它們只是彼此在互補中運作，共同為應用程序提供更好的性能。

加速互聯網之關鍵

基本上，邊緣運算是一種網路運算架構，運算過程盡可能靠近資料來源以減少延遲和頻寬的使用。其目的是減少集中遠端位置（即雲）中執行的運算量，進而最大限度地減少異地用戶端和伺服器之間所必須產生的數據傳輸量。近年來，由於技術的快速發展，使得硬體趨向小型化、高密度，加上軟體的虛擬化技術，使得邊緣運算的實用性更加可行。

網路邊緣的線上設備數量正迅速增加當中，這些設備將會產生大量數據資料（例如智慧工廠或城市的物聯網設備），也消耗大量資料頻寬（例如使用5G手機查看4K影像或VR遊戲裝置等），或兩者同時發生（如自動駕車就需要同時產生大量數據資料，並耗用大量頻寬）。若採用傳統的雲端運算模型，將要求所有這些資料被傳輸回中央的資料中心進行處理，然後再傳輸回使用者設備，這將使得對於網路頻寬的需求被推到極限。

圖三 : 邊緣運算將計算和儲存能力帶到網路邊緣。由此看來，邊緣運算也是加速互聯網的主要關鍵。

儘管網路技術有所改進，但資料中心無法保證過程中傳輸速率和回應時間是可接受的，然而這可能是許多應用的關鍵需求。因此，邊緣運算將計算和儲存能力帶到網路邊緣，在實體或地理位置上盡可能接近終端設備，減少網路頻寬使用和延遲，並縮短回應時間。由此看來，邊緣運算也將是加速互聯網的主要關鍵。

使AI運作更有效率

在資料統整與雲端數據搜集時，邊緣運算可以發揮很大的功用。與雲端運算不同的是，邊緣運算是位於最接近資料來源的小型計算中心，主要功能在於收集、儲存、過濾、擷取、簡單的運算，並將處理過的資料與雲端系統進行有效率的交換，使系統變得更加即時、彈性且具有效率。

隨著AI的發展越趨成熟，硬體晶片的品質提升不少，讓過去只能作為「接收」功能的端口也能用於協助運算，這將使AI運作更有效率，像是自動煞車系統、智慧音箱等，都是邊緣運算下的產物。繼雲端（Cloud）與物聯網（IoT）興起後，物聯網與雲端間的中繼站，如物聯網閘道器（IoT Gateway），也從過往的單純資料彙整、轉傳工作外，被賦予更多的任務與期許，這些應用都促使了邊緣運算（Edge Computing）概念的興起。

AI運算漸向終端轉移

2017年是AI元年，各公司都大力佈局AI技術。2019年AI的應用需求更是明確，許多原先由雲端運算的產品都紛紛轉向終端運算處理。連網設備現在為了解決網路頻寬有限、通訊延遲、缺乏網路覆蓋、資料隱私與機密等需求，對終端AI運算能力的需求多過於雲端運算。除了演算法和大資料，作為AI的三大要素之一，運算能力也變得非常重要。目前各大晶片廠商都在開發各自的AI邊緣運算晶片，將AI運算從雲端逐漸向終端轉移，這也使得邊緣運算的需求將會大增。

工研院綜合預測邊緣端與裝置端AI晶片市場規模，2017年為793百萬美元，2025年為51,623百萬美元，年複合成長率高達68.5%。估計2025年，前三大的Edge AI產品分別為：智慧手機、智慧音箱、抬頭顯示設備（AR/VR/MR）。而成長最快速的產品，則是消費型與企業用機器人及安全監控攝影機。

在特定領域的專用人工智慧系統，由於應用背景需求明確、深厚之領域知識、模型建立計算簡單可行，在單項測試之智慧水準已可超越人類智慧，目前在許多領域已取得具體成效。技術挑戰則在於：發展低能耗、高準確率的認知計算，包括新型運算架構電路設計、演算法等。未來人工智慧晶片是特定的演算法加速器，來加速包括卷積神經網路（Convolution Neural Network）、遞迴神經網路（Recursive Neural Network）在內的各種神經網路演算法，專用晶片的最大優勢在於其成本和功耗降低，可大幅提升人工智慧演算法運行效率。

霧端邊緣運算與雲平台協作

隨著全球物聯網市場發展，根據Zion market研究機構預測聯網裝置，從2017年到2024年將以每年23%複合成長率爆增，整體成長將近4倍的數量，由這些各式各樣感測裝置中所蒐集而來的數據，除了量以指數形式快速生成外，在質的方面，資料即時推論與快速分析處理，也越來越受到新型態物聯網應用的重視，為因應以上需求，新一代物聯網架構開始採用霧端邊緣運算，並與雲平台協作以滿足企業、政府或各式垂直領域需求。

再加上近年來人工智慧大舉導入終端裝置，AI電腦視覺、視訊監控分析等需求市場的快速成長，部份國際大廠，包括：Cisco、IBM、ARM、Dell、Intel等，已察覺現有雲端連線頻寬所造成的延遲、資料傳輸上的電力消耗、網路連線的穩定可靠、以及資料交換的安全性與隱私性等問題，期望將應用程式、數據資料與服務的運算，能由邊緣設備來加快資料處理與即時反應，進而紛紛推動「AI」加上「邊緣運算」的解決方案，並陸續組成國際聯盟，投入邊霧運算相關設備與產品的研發。