人工智慧風潮席捲各大產業，其中邊緣運算是更是近年企業積極導入的技術，然而Edge AI的原理究竟是什麼，又該如何落實到產業當中，是許多企業嘗試AI升級轉型過程中，首先面對的難題。

人工智慧基金會（AIF）以多年投入AI人才培育、提供專業顧問的經驗，舉辦「AI CAFE」系列活動，希望藉由精彩的課程內容跨越產業鴻溝，讓更多人了解並體驗到AI的優勢。活動的第一場講座以畜牧養殖產業中的AI應用為主題，邀請到兩位專家，帶領觀眾建立Edge AI基本概念，搞懂技術原理，同時透過實務案例分享，從技術掌握產業應用。

模型縮小燈！模型壓縮與邊緣計算的結合

「目前AI的問題，已不在於模型夠不夠強，而是模型夠不夠小，是否能放在邊緣設備中運行。」

人工智慧科技基金會的AI工程師Chris，曾經接觸過睡眠品質分析、利用生成式對抗網路之車聯網路障系統等專案，專長研究領域為電腦視覺、深度學習及生成式對抗網路的他，以深入淺出的方式向觀眾解釋Edge AI的原理。

Chris表示，邊緣設備是具備聯網、運算能力的小型硬體設備，其便宜、體積小、方便部署、低功耗及便於結合各種感測器的特性，使它成為AI進入產業的絕佳選擇。

目前AI的流程，主要分成訓練模型learning與執行模型inference，以自駕車為例，自駕車本身的並沒有空間容納過大的計算資源，若所有判斷都需經由雲端計算才能返回結果，一來一回的時間將導致即時性不足，假如邊緣設備中，有具備自主運算與決策能力的inference model，即時性便能大大提升。

即便如此，Edge AI也並非十全十美，其在應用上仍有侷限與待克服的問題，其中運算能力過小可能導致inference速度過慢，硬體資源太小則可能使模型無法放入邊緣設備中。

「若想解決這些問題，必須在近乎不影響模型準確度的情況下，將模型壓縮，讓其能有效實現在邊緣設備中。」Chris解釋：「像給模型照縮小燈，將不必要的權重刪除，留下最重要的。」

圖一 : Chris以縮小燈為例，向觀眾解釋模型壓縮的原理。

模型壓縮有幾種方式，如網路剪枝，量化參數與知識蒸餾。其中近年最主流的知識蒸餾，需要兩個網路模型：Teacher與Student，由大模型Teacher去訓練出一個小模型Student，藉由結果學習去蕪存菁，使小模型具備大模型的能力。

以養雞場的雞群活動力偵測為例，傳統以人力查看的方式相當耗日費時，若能以AI偵測取代將能節省大量人工與時間。

由於養雞場屬於半開放式場域，又必須追蹤雞隻的移動軌跡，案例採用小型自走車搭載邊緣設備進行偵測與判斷，對於模型輕量化的要求頗高，團隊選擇使用Jetson Nano作為Inference硬體 ，同時以知識蒸餾方式壓縮模型滿足輕量化需求。

「隨著邊緣設備進化，邊緣運算的應用會越來越成熟，包含邊緣設備的硬體成長與軟體的成長。而知識蒸餾能保留模型精度，是近幾年討論相當熱門的議題，未來發展直得期待。」Chris總結。

農漁畜牧業的AI視覺好幫手

第二位講師辰明智能創辦人與執行長Gray，專注發展AI視覺感知技術多年，對於AIoT在農林漁牧產業中的應用極具心得。

「傳統農林畜牧業大量仰賴人工的運作模式，正面臨人口結構老化、缺工等挑戰。」Gray提到，目前雖已有農用攝影機等科技輔助，但僅具錄影功能，缺乏量化數據與異常反饋功能，仍須人工監測，於節省人力方面作用相當有限。

由辰明智能所研發的AgroONE即時生長監控系統，透過Edge AI設備，針對農作物的生長狀況進行即時監控，以純視覺方式，將植物的生理參數量化，如光合作用率、含水含氮率等，農民也可透過系統搭載的APP，遠端觀看巡視作物狀態，減輕工作負擔的同時，更能提升產品品質。

圖二 : AgroONE系統無論動物植物的培育皆可應用。

同樣的系統也能運用在畜牧產業，辰明智能專攻白肉雞養成領域，經驗豐富。

白肉雞作為人類社會重要的肉品來源，其養殖方法卻仍大多仰賴人力，此外，禽流感等疾病也是相當棘手的問題。

辰明智能嘗試在畜舍中導入AI視覺感知技術，小型化的設備垂掛在天花板，利用立體視覺量化雞隻生長狀態，同時以光譜分析量化健康情形，再藉由邊緣運算即時監控，除了能減少人力需求，還可更精準的掌握雞隻生長狀態，同時在雞隻染疫時防微杜漸，避免農民因禽流感撲殺雞隻致使血本無歸。

Gray表示：「我們想要讓農漁畜牧業變得更便宜更簡單。」

小結

過去以人力為主的農漁畜牧產業，隨著勞動力結構改變岌岌可危，然人類生存不能沒有糧食，農業為立國之本仍有其重要性，所幸科技改變生活，有了AI的輔助，未來的農業或能擺脫傳統辛勞費力的運作模式，以低人力、高科技的方式重獲新生。

（本文由VMAKER授權轉載；連結原文網址）