智慧工廠作為工業4.0的核心，正透過智慧機械、通訊與AI運算的互連網路實現全面數位轉型。在此轉型過程中，邊緣人工智慧（Edge AI）扮演著不可或缺的中樞角色，其將人工智慧模型部署於本地端設備，實現即時資料處理與決策，進而推動製造業從傳統自動化邁向真正的智慧化。

市場研究預測，全球工業邊緣運算市場到2030年將達到1,062.5億美元的規模，特別是在生成式AI的推動下，邊緣AI的應用正從概念驗證階段邁向大規模的部署。

智慧工廠邊緣AI基礎元件發展趨勢

邊緣AI的發展與其底層硬體元件的創新息息相關。在智慧工廠環境中，這些硬體必須具備高效能、低功耗、高可靠性及適應惡劣環境的特性。

邊緣AI系統的運算能力由多種處理器和專用加速晶片共同提供。這些元件的演進使其能夠在資源受限的邊緣環境中高效運行複雜的AI模型。

神經處理單元 (NPU)

NPU是專為AI推論設計的專用處理器，能夠提供高效的張量處理能力，同時保持低功耗。例如，Hailo-8和Hailo-8R AI模組提供高達13至26 TOPS（每秒萬億次操作）的AI運算能力，並以其卓越的能效和緊湊的集成度而聞名；Intel的Core Ultra系列處理器也導入了AI Boost架構，將NPU作為獨立運算單元，專門處理AI工作負載；Arm的Ethos-U85 NPU也是專為AI推論優化的處理器，能有效處理神經網路工作負載；Google的Coral Edge TPU也專為AIoT設備設計，提供高速、低功耗的推論能力。

GPU

儘管NPU興起，GPU在邊緣AI應用中仍扮演重要角色，尤其適用於複雜的影像分析、機器視覺和深度學習任務。NVIDIA的Jetson邊緣AI平台便是針對機器人、物流追蹤和自主規劃等應用而設計，其GPU加速功能顯著提升了電腦的圖像和視頻處理能力。

圖一 : 儘管NPU興起，GPU在邊緣AI應用中仍扮演重要角色。圖為安提國際的解決方案。

邊緣運算設備：工業電腦、邊緣伺服器、閘道器

邊緣運算設備是承載邊緣AI運算的核心平台，它們將運算和資料儲存能力帶到網路邊緣，盡可能接近終端設備，以減少網路頻寬使用和延遲，縮短回應時間。

工業電腦 (IPC)

傳統上，工業電腦主要負責設備控制與數據監控。然而，當它們與AI、邊緣運算和自動化技術結合後，其應用視野全面打開，涵蓋了智慧工廠、智慧城市、智慧交通、智慧醫療、AIoT等新興應用領域。凌華、研華等廠商提供多款強固型、無風扇的工業電腦和觸控式平板電腦，這些設備具備寬溫操作範圍、抗震、防塵等特性，非常適合嚴苛的工業環境。

邊緣伺服器

這些伺服器專為邊緣運算設計，能夠提高運算密度同時縮小機殼尺寸，讓數據中心等級的超算力也能部署在網路邊緣。例如技嘉推出了一系列邊緣運算伺服器，以滿足此類需求。

閘道器 (Gateway)

在邊緣運算架構中，閘道器扮演著數據匯聚和初步處理的角色，負責擷取路況和鄰近街區資料並執行演算法，以做出快速判斷和反應。

硬體供應商正從單純的晶片/設備提供者轉型為「解決方案賦能者」，因為僅提供硬體不足以解決邊緣AI部署的複雜性，固這些業者透過生態系統合作的方式來加速邊緣AI落地。

生成式AI在邊緣的潛力

生成式AI的快速發展正使其成為邊緣AI普及化的關鍵技術 。生成式AI與嵌入式系統的結合應用，涵蓋了即時數據處理、預測性維護與流程優化，使得AI能夠在終端設備上更有效率地運行複雜的應用。

例如，聯發科正專注於開發小型語言模型（LLM）和AI AGENT，旨在讓邊緣裝置能夠高效運行複雜的AI應用 。生成式AI驅動的軟體能夠促進靈活且動態的供應鏈管理 。儘管生成式AI在邊緣部署仍面臨算力、記憶體和安全挑戰 ，但輕量化的大語言模型推論有望帶動邊緣AI計算的顯著成長 。此外，AI PC的普及也將推動邊緣AI應用從雲端、邊緣運算到PC終端全面開花，預示著「AI工廠時代」的來臨。

生成式AI在邊緣的發展，預示著智慧工廠將從「分析與預測」邁向「自主生成與創造」的能力。傳統邊緣AI主要聚焦於數據分析、模式識別、預測性維護和缺陷檢測等任務 。然而，生成式AI的引入，特別是小型語言模型和AI Agent在邊緣設備上的運行 ，意味著邊緣設備將不僅能理解和響應現有數據，還能「生成」新的內容、指令或解決方案。這代表智慧工廠的智能化水平將從「優化現有流程」提升到「自主創新與應變」，例如自動生成生產排程、設計優化方案，甚至在產品開發中提供創意輔助，這將是智慧工廠能力的一次質的飛躍。

生成式AI在邊緣的影響與機會

生成式AI的快速發展為諸多行業帶來新的機遇，眾多企業正加速布局邊緣AI，以加速小語言模型的發展，並推進機器人等智慧終端的迭代發展。邊緣AI將引領新一波技術熱潮，特別是小型語言模型和AI AGENT的發展，這些技術將使邊緣裝置能夠高效運行複雜的AI應用。

生成式AI將從根本上改變工業生產模式。例如，生成式AI驅動的軟體可以促進靈活且動態的供應鏈管理 ，甚至在工廠設計、自動化及材料研發中展現潛力。此外，AI PC的普及也將推動邊緣AI應用從雲端、邊緣運算到PC終端全面開花。

生成式AI在邊緣的部署，將加速「萬物智慧」的願景，並從根本上改變人機互動和工業應用模式。生成式AI的引入，特別是小型語言模型和AI Agent在邊緣設備上的運行 ，意味著設備將具備更高級的「智慧判斷」和「自主生成」能力。在工業場景中，這可能意味著機器人不僅能執行指令，還能自主優化流程甚至參與設計。這種能力下沉到邊緣，將使「每個裝置都聰明起來」 ，推動新興技術及其帶來的沉浸式體驗的快速發展 ，從而實現真正的「萬物智慧」，並極大地拓展工業自動化的潛力，從根本上改變生產模式和人機協作的範式。

結論與建議

邊緣人工智慧（Edge AI）是驅動智慧工廠從傳統自動化邁向真正智慧化的核心力量。它將人工智慧的「大腦」下沉到生產現場，使得數據能夠在產生點即時處理和決策。這種模式不僅實現了毫秒級的快速響應，顯著增強了數據安全與隱私保護，同時也降低了對雲端資源的依賴，從而優化了營運成本並提升了系統的整體可靠性。在工業4.0的浪潮下，邊緣AI不再僅是單純的技術革新，它更是企業提升全球競爭力、實現彈性製造和可持續發展的戰略支點。其即時感知與應變的能力，正在為智慧工廠創造全新的安全邊界和決策速度，從根本上改變了工廠的風險管理模式和應急響應能力。