物聯網與智慧化概念快速興起，導入嵌入式系統，加速數位轉型成為企業趨勢，而就目前發展來看，AI與物聯網結合的AIoT，已被視為未來各產業的主要營運架構，此一架構也將影響嵌入式技術的發展，其中邊緣運算更會是系統的設計重點。

AI的崛起加速了物聯網發展。物聯網問世初期是以集中式運算作為主要架構，先以底層感測器擷取第一線設備的狀態，在透過中間層的通訊網路，將訊息傳送到上層雲端平台儲存、分析。這種集中式運算架構雖然完整，不過層層轉遞會讓訊息傳輸速度變慢，而且所有數據都匯集到後端，將使雲端平台的運算負載過重，影響系統運作效能，對製造、車載等對即時性有高度要求的產業來說並不適用，因此從2018年開始，邊緣運算成為系統設計主流，這也讓各廠商紛紛啟動布局。

處理器廠商搶攻AI晶片市場

圖1 : 讓邊緣運算系統的運作效能可滿足市場需求，AI晶片是關鍵因素。（source：Barron's）

要讓邊緣運算系統的運作效能可滿足市場需求，AI晶片是關鍵因素。由於這次AI的發展是以機器學習演算法為主，而機器學習中的神經網絡需要高強度的浮點運算能力，因此GPU被視為這波AI熱潮中最適合的運算架構，作為GPU市場領導廠商，NVIDIA在此一領域的優勢明顯，動作也相當積極。NVIDIA的主要產品是GeForce系列，後來又針對企業應用推出Jetson系列產品，訴求效能、穩定、成本、彈性等特色，目前已有多起成功的案例。

GPU之外，CPU大廠Intel與AMD在此也未缺席。Intel除了在2017年就分別推出獨立AI 加速器Movidius Neural Compute Stick與Myriad X視覺處理器(Vision Processing Unit；VPU)外，2019年再度強化布局，在11月的AI高峰會上發布了代號為Keem Bay的新一代Movidius VPU， 與上一代相較，Keem Bay的效能提升了10倍，功耗則只有30W，主攻邊緣運算市場。AMD則是在今年推出Ryzen 3000系列處理器，包含Ryzen 5、Ryzen 7以及Ryzen 9，此產品在產品尺寸、可擴充性、穩定性與體積上，都是針對身處嚴苛環境的嵌入式設備而設計。

除了處理器大廠，Google也推出客製化的ASIC AI晶片TPU。Google早期是為了符合本身機房需求並降低耗電，且不願意投入鉅額費用購置GPU，因此自習設計TPU，一直到2014年才開始將之產品化。

Google向來強調開放性特色，Google Cloud NEXT 2018推出的AI晶片Edge TPU訴求小體積、高處理能力、可運作輕量版的TensorFlow Lite，並且內建加速器，可將運算資源移轉到大型電腦的類神經網路，Google希望藉此複製過去Android的做法，在AI領域再創另一個產業生態系，透過大量廠商的使用測試，將觸角延伸到更多應用場域。

除了GPU、CPU外，其他處理架構如FPGA、DSP等廠商，也都積極投入AI市場，就發展來看，仍未看出那一類運算架構會成為市場主流，伺服器的應用目前以CPU為主，不過現在NVIDIA也開始跨入發展，至於終端嵌入式設備市場，無論是體積、功耗、價格，其市場需求都比伺服器更嚴苛，因此難度會更高，不同的應用會需要不同的運算架構，因此未來處理器在嵌入式終端市場的應用將更為多元。

優質資料儲存讓系統更穩定

圖2 : 在AIoT中，數據被視為系統效能的重要關鍵。（source：EnterpriseTalk）

除了處理器之外，儲存也是智慧化嵌入式系統設計的重要考量。在AIoT中，數據被視為系統效能的重要關鍵，然而過去的設計思維都以「量」為重，但其實「質」的重要性更高，唯有高品質的數據，才能讓AI的運算價值最大化，而物聯網系統中，數據的來源是第一層嵌入式設備，而嵌入式設備的數據關鍵裝置，就是儲存元件，因此要強化系統效能，必須從此處著手。

目前物聯網系統在數據部分會遇到三大難題，首先是無用的數據量過於龐大，要從中篩選出真正有效的數據，需要耗費極大功夫，其次是消費性儲存載體，在特定領域的穩定性不佳，最後則是有限的資訊難以管理系統中日益分散的設備。

對於有用數據的篩選，現在的做法是強化系統前端的閘道器功能，以工業物聯網為例，當底層設備傳來數據後，需要即時處理者，會將訊息即時回饋給底層設備，非即時的長期資訊，例如設備的運作狀態，閘道器會先做簡單的處理再傳送到上層，讓雲端平台接收的都是已經初步處理的資料，而非從原始數據開始處理。

儲存載體穩定性不佳的問題，可從軟硬體兩端解決，硬體部分是採用工控等級的儲存元件，這類型元件不但都有寬溫、抗硫化設計，可確保穩定性之外，也提供了長供貨保證，可確保系統長期運作。軟體方面，現在工控儲存廠商也已推出各種保護機制，例如當系統偵測到電源不穩或是供電瓦數不足等惡劣情況時，就會立即中斷讀寫命令，避免因突然斷電導致資料受損，或是透過設計可短暫但即時的提供SSD所需要的電力，以確保資料能夠完整地被寫回儲存裝置內。

最後則是資訊管理問題，現在已有廠商將AI技術應用於儲存系統，從資料讀寫行為中，分析出儲存行為與資料讀寫狀況，讓使用者掌握儲存設備的狀態，另外使用者也可由瀏覽器監控各設備，並分析儲存裝置使用量，同時預測使用壽命，讓管理者即時進行設備的擴充維護。

資料的運算與儲存，向來是嵌入式系統的設計重點。在AIoT架構中，這兩大重點也再度被強化，從市場態勢來看，AIoT的架構與產業應用雖仍處於發展初期，未來再進化的機會相當大，不過AI的導入基本上已成趨勢，台灣廠商必須將之列為重點觀察指標，以掌握隨之而來的商機。

**刊頭圖（source：eInfochips）