隨著AIoT架構不斷的擴展,再加上AI技術的持續成熟,邊緣運算結合人工智慧技術的「邊緣AI」開始成為市場的新寵,為邊緣運算技術帶來新一波的動能,而IPC更扮演著至關重要的角色。
對工業與商業的應用場景來說,能夠在「邊緣」執行即時與自動化的動作,不僅有助於提升整體的運作流程、降低中央與雲端單元處理的壓力,同時也有助於提升第一線人員的使用體驗,也因此「邊緣運算」在這幾年持續在多個垂直市場中展露頭角,尤其是在疫情之後,無人化的自動控制更成為顯學,更讓邊緣運算成為自動控制的主流技術。
而隨著AIoT架構不斷的擴展,再加上AI技術的持續成熟,邊緣運算結合人工智慧技術的「邊緣AI」開始成為市場的新寵,為邊緣運算技術帶來新一波的動能,而IPC更扮演著至關重要的角色。
邊緣AI的關鍵技術與特色
顧名思義,邊緣AI是指在邊緣計算環境中導入人工智慧技術。而邊緣AI使用的AI技術主要包括以下幾種:
●機器學習:機器學習是AI的核心技術,它可以讓計算機從數據中學習並做出預測。邊緣AI使用機器學習技術來訓練模型,以便能夠在邊緣設備上進行實時推理和決策。
●深度學習:深度學習是機器學習的一個子集,它使用人工神經網路來學習數據中的複雜模式,尤其是在圖片的辨識方面。邊緣AI使用深度學習技術來提高模型的準確性和性能。
●電腦視覺:電腦視覺是AI的一個應用,它可以讓電腦理解和分析圖像和影片。通常邊緣AI會使用電腦視覺技術來識別物體、追蹤運動和檢測異常。
●自然語言處理:自生成式AI崛起後,自然語言處理就變成是AI應用必須具備的一個技術,它可以讓電腦理解和生成人類語言。而邊緣AI使用自然語言處理技術來進行語音識別、機器翻譯和文本分析。
智慧化可說是自動控制的最終完成式,因此目前的邊緣運算幾乎都已開始支援AI技術。相較於傳統的邊緣運算,具備人工智慧技術的邊緣AI,能在邊緣設備上實現實時推理和決策的能力,進而讓邊緣設備更加智慧。
傳統的邊緣運算主要側重於數據的收集、處理和傳輸,並沒有進行智慧化分析。因此,傳統的邊緣運算只能完成一些簡單的任務,例如數據過濾、壓縮和轉發等。
但邊緣AI在傳統邊緣運算的基礎上,導入了機器學習、深度學習等AI技術,使邊緣設備能夠從數據中學習,並做出分析判斷。因此,邊緣AI可以完成一些更複雜的任務,例如實時推理、本地決策、降低延遲、與提高安全性等優勢。
圖一 : 邊緣AI在傳統邊緣運算的基礎上,導入了機器學習、深度學習等AI技術,使邊緣設備能夠從數據中學習,並做出分析判斷。 |
|
IPC扮要角 邊緣AI整合自動化設備潛力大
而要實現邊緣AI,採用具備與支援AI技術的運算設備則是必要的途徑。對此,邊緣運算的相關供應商也推出了一系列具備人工智慧技術的嵌入式工業電腦(IPC),這些設備最大的特色,就是具備了支援AI技術的軟硬體。
有了邊緣AI之後,目前的自動化設備應用也將會獲得大幅的性能提升,因為邊緣AI可以為自動化設備提供實時數據分析和決策能力,使自動化設備能夠更智能地感知、分析和響應周圍環境。
邊緣AI整合自動化設備的主要優勢包括:提高自動化設備的效率和準確性、強化自動化設備的靈活性和可靠性、降低自動化設備的成本。例如富士康就運用邊緣AI技術來提高生產效率,他們透過在生產線上部署邊緣AI設備,對生產設備的運行數據進行分析,幫助生產設備優化運行參數,提高生產效率。
而支援AI技術的IPC在硬體規格上,通常在以下的關鍵元件上做考量:
●晶片組:要支援AI技術,IPC通常採用高效能的晶片組,例如Intel Xeon、AMD EPYC、NVIDIA Jetson等。這些晶片組除了有較高的運算能力和記憶體頻寬,也針對AI模型的運算有優化的設計。
●運算架構:支援AI技術的IPC通常採用CPU、GPU、FPGA等多種運算架構的組合。CPU具有較強的通用性,可以滿足多種AI模型的運算需求;GPU具有較高的浮點運算能力,適合處理深度學習模型;FPGA具有較高的可配置性,可以針對特定AI模型進行優化。
●記憶體:支援AI技術的IPC通常具有較大的記憶體容量,以滿足AI模型對記憶體的需求。
●儲存:支援AI技術的IPC通常採用高速儲存介面,例如NVMe SSD,以提高AI模型的讀寫速度。
●散熱:支援AI技術的IPC通常具有良好的散熱性能,以確保AI模型的穩定運行。
圖二 : 邊緣AI的應用場景非常廣泛,從傳統的工業領域橫跨到商業運用,以及目前熱門的智慧城市和智慧醫療等,都有導入邊緣AI的機會。 |
|
智慧城市潛力大 邊緣AI將無所不在
邊緣AI的應用場景非常廣泛,從傳統的工業領域橫跨到商業運用,以及目前熱門的智慧城市和智慧醫療等,都有導入邊緣AI的機會。以工業自動化為例,邊緣AI可以用於提高工業生產的效率和安全性。像是用於檢測產品缺陷、監控機器運行狀況和預測設備故障。至於智慧醫療方面,邊緣AI可以用於改善醫療保健的質量和效率,像是協助醫生診斷疾病、監控患者狀況和提供個性化治療。
至於智慧城市,可以說是目前最受注目的邊緣AI應用場域。在智慧城市中,具備AI功能的IPC可以作為邊緣運算的節點,部署在城市的各個角落,收集和處理來自各種感測器的數據,並將數據傳輸到雲端進行分析。具體的應用場域包含:
●智慧交通:邊緣AI可以應用於交通控制系統、車載信息系統、智慧停車等領域,實現交通信息的實時收集、分析和處理,提高交通效率和安全。
●智慧安防:用於影像監控、人臉識別、公共安全等領域,實現城市安全狀況的實時監控和預警,提升城市安全。
●智慧能源:用於智慧電網、智慧水網、智慧氣網等領域,實現能源的智能化生產、分配和使用,提高能源利用效率。
不過除了AI功能之外,布置在智慧城市裡的IPC還需要有堅固耐用、高可靠性、低功耗與高安全性的特性。因為這些IPC通常設置於戶外或惡劣環境中,因此需要具有堅固耐用的外殼和結構,能夠抵禦灰塵、濕氣、震動和溫度變化等環境因素。另外,也需要24 小時不間斷的運行,而且會涉及收集和處理敏感數據,因此需要具有高安全性與可靠度,才能防止數據洩露與提升公共安全。
當然,針對不同的應用場景與系統,IPC廠商在邊緣AI應用上也提供了一系列技術和解決方案,以滿足不同邊緣AI應用需求。這些平台包括嵌入式系統、工業平板電腦、與工業伺服器,以分別對應空間受限的緊湊尺寸、堅固耐用的結構、與高性能和可擴展性的應用。
圖三 : 邊緣AI用於影像監控、人臉識別、公共安全等領域,實現城市安全狀況的實時監控和預警,提升城市安全。 |
|
後市可期 邊緣AI成長備受注目
根據 Markets and Markets的報告,全球邊緣AI市場規模,預計將從 2022 年的 26.2 億美元,成長到 2027 年的 75.2 億美元,複合年增長率(CAGR)為驚人的 19.85%。
該報告也指出,邊緣AI市場的成長主要得益於物聯網(IoT)設備的快速增加,以及對即時性和安全性要求的提高,另一方面,雲端運算的發展,也為邊緣AI提供了基礎設施的支持,進而推動了邊緣AI的發展和應用。
該報告還指出,在邊緣AI市場中,硬體將佔據主導地位。預計到 2027 年,全球邊緣AI硬體市場規模將達到 56.8 億美元。
另一個研究機構 Grand View Research也指出,全球邊緣AI市場規模預計將從 2022 年的 26.7 億美元,成長到 2028 年的 142.8 億美元,複合年增長率 (CAGR) 是更為驚人的 32.8%。
其主要的成長趨勢為對數據隱私和安全的日益關注,以及人工智慧和機器學習 技術的進步,另外5G 網路的普及也有助於提升邊緣AI在低延遲與高頻寬應用的發展。不過與前者不同之處,他們認為軟體和服務會佔據主導地位,預計到 2028 年,全球邊緣AI軟體和服務市場規模將達到 86 億美元。
總體而言,在生成式AI推波助瀾之下,以及智慧城市、智慧城市、智慧醫療等應用的加持,未來3-5年之內邊緣AI市場仍將處於快速發展期,並保持高速的成長。