隨邊緣AI無疑是近期AI應用最受注目的項目，也將是接下來裝置與零組件商聚焦的市場．對此，CTIMES東西講座特別邀請耐能智慧（Kneron）親赴現場，並由該公司資深技術行銷經理陳宇春解析最新發展趨勢，以及耐能智慧在此領域的創新技術與策略佈局。

隨著物聯網（IoT）設備的普及和對即時、低延遲數據處理需求的日益增長，邊緣AI正成為人工智慧領域的下一個重要發展方向。相較於將所有數據傳輸至雲端進行處理，邊緣AI能夠在本地設備上完成數據分析和推理，不僅降低了網路頻寬的需求，更顯著提升了響應速度和數據安全性。在這一趨勢中，專為人工智慧運算設計的NPU扮演著至關重要的角色。

圖一 : 耐能智慧（Kneron）資深技術行銷經理陳宇春解析最新發展趨勢，以及耐能智慧在此領域的創新技術與策略佈局。（攝影／王岫晨）

邊緣AI的崛起與NPU的關鍵角色

陳宇春強調，NPU具有在背景獨立運作的優勢，能夠在不佔用CPU資源的情況下高效地執行人工智慧任務。這使得前端應用能夠順暢運行，後端則專注於複雜的AI模型處理。這種異構計算架構有效地提升了整體系統的效能和能源效率，為各種邊緣設備提供了高效邊緣運算的基礎。

至於耐能智慧的發展目標，則是讓消費者更容易使用和接受人工智慧技術。陳宇春指出，為了實現這一目標，耐能智慧不僅專注於提升NPU的效能，更致力於降低其功耗和提高響應速度。相較於傳統僅搭載CPU架構的方案，整合NPU 方案的運算架構在電源效率和成本效益方面都更具優勢，這對於功耗敏感的邊緣設備是非常重要的需求。

陳宇春也舉無人機的系統設計為例，他表示，無人機導入NPU架構的最大優勢就是大幅降低了能源的損耗，進而使之可以縮小整體的體積，達到輕量化的目標。其他的AI功能其實都可以使用原本的架構實現，唯獨導入NPU的能耗降低性能無法比擬。

陳宇春也解析了AI PC的運算架構，他指出，許多AI PC在實際AI應用中的效能表現卻往往相近，輸出速度通常在20到30 TOPS之間，這顯示單純追求高算力並不一定能帶來實際效能的提升。

針對這一問題，耐能智慧提出了適應性神經網路組合的概念。他們採用模組化的方法來組合不同的神經網路，這種靈活性使得他們的NPU能夠根據具體的應用需求，動態地調整和優化網路結構，從而在各種模型中實現更佳的效能。

陳宇春以物件偵測等複雜場景為例，說明透過將多個 AI 模型串聯起來，可以更精準地識別和分析場景中的各種元素，從而提升整體系統的性能。

以靈活高效的架構 實現邊緣AI無限可能

陳宇春強調，耐能智慧的設計目標是實現低延遲和低功耗，這對於需要即時響應的邊緣應用十分重要，例如智慧安防、自動駕駛和智慧製造等，對於低功耗和低延遲有極高的需求，因此若要在邊緣實現AI的功能，導入NPU架構會是最具成本效益的解決方案。

陳宇春指出，與傳統上執行平行處理的GPU不同，耐能智慧的NPU能夠將較小的計算單元組合成不規則的形狀，這種靈活的架構使其能夠更有效地適應不同類型和規模的神經網路模型，進而在各種應用場景中實現更高的效率。

隨著邊緣AI技術的持續發展和應用場景的不斷擴展，對高效能、低功耗的 NPU的需求也將會持續水漲船高。以自駕車為例，由於自動駕駛需要實時處理來自攝影機、雷達、光達等感測器的海量數據，搭載邊緣AI處理器就可以在本地端快速完成物體偵測、路徑規劃等任務，實現真正的無人駕駛。

甚至邊緣AI還可以分析車輛內部的感測器數據，針對駕駛人的精神狀態與其他潛在的機械故障進行預測，適時提醒駕駛員行動，或者採取適時的維護。

講者簡介

圖二 : 耐能智慧資深技術行銷經理陳宇春（攝影／王岫晨）

陳宇春（Jeffrey）擁有豐富的產業經驗，曾任擎展科技RD研發處長、曜鵬科技產品開發處處長，以及晨星半導體Smart Camera BU總經理室特助。畢業於逢甲資工系，並取得臺北科技大學資財所EMBA學位，同時也是台灣人工智慧學校技術領袖班一期學員。蓋AI軟體技術、產品規劃、技術行銷，並積極投入AI講師工作。

如需了解更多相關內容，請連結下列頻道影片網址：