人工智慧风潮席卷各大产业,其中边缘运算是更是近年企业积极导入的技术,然而Edge AI的原理究竟是什麽,又该如何落实到产业当中,是许多企业尝试AI升级转型过程中,首先面对的难题。
人工智慧基金会(AIF)以多年投入AI人才培育、提供专业顾问的经验,举办「AI CAFE」系列活动,希??藉由精彩的课程内容跨越产业鸿沟,让更多人了解并体验到AI的优势。活动的第一场讲座以畜牧养殖产业中的AI应用为主题,邀请到两位专家,带领观众建立Edge AI基本概念,搞懂技术原理,同时透过实务案例分享,从技术掌握产业应用。
模型缩小灯!模型压缩与边缘计算的结合
「目前AI的问题,已不在於模型够不够强,而是模型够不够小,是否能放在边缘设备中运行。」
人工智慧科技基金会的AI工程师Chris,曾经接触过睡眠品质分析、利用生成式对抗网路之车联网路障系统等专案,专长研究领域为电脑视觉、深度学习及生成式对抗网路的他,以深入浅出的方式向观众解释Edge AI的原理。
Chris表示,边缘设备是具备联网、运算能力的小型硬体设备,其便宜、体积小、方便部署、低功耗及便於结合各种感测器的特性,使它成为AI进入产业的绝隹选择。
目前AI的流程,主要分成训练模型learning与执行模型inference,以自驾车为例,自驾车本身的并没有空间容纳过大的计算资源,若所有判断都需经由云端计算才能返回结果,一来一回的时间将导致即时性不足,假如边缘设备中,有具备自主运算与决策能力的inference model,即时性便能大大提升。
即便如此,Edge AI也并非十全十美,其在应用上仍有局限与待克服的问题,其中运算能力过小可能导致inference速度过慢,硬体资源太小则可能使模型无法放入边缘设备中。
「若想解决这些问题,必须在近??不影响模型准确度的情况下,将模型压缩,让其能有效实现在边缘设备中。」Chris解释:「像给模型照缩小灯,将不必要的权重删除,留下最重要的。」
图一 : Chris以缩小灯为例,向观众解释模型压缩的原理。 |
|
模型压缩有几种方式,如网路剪枝,量化叁数与知识蒸馏。其中近年最主流的知识蒸馏,需要两个网路模型:Teacher与Student,由大模型Teacher去训练出一个小模型Student,藉由结果学习去芜存菁,使小模型具备大模型的能力。
以养鸡场的鸡群活动力侦测为例,传统以人力查看的方式相当耗日费时,若能以AI侦测取代将能节省大量人工与时间。
由於养鸡场属於半开放式场域,又必须追踪鸡只的移动轨迹,案例采用小型自走车搭载边缘设备进行侦测与判断,对於模型轻量化的要求颇高,团队选择使用Jetson Nano作为Inference硬体 ,同时以知识蒸馏方式压缩模型满足轻量化需求。
「随着边缘设备进化,边缘运算的应用会越来越成熟,包含边缘设备的硬体成长与软体的成长。而知识蒸馏能保留模型精度,是近几年讨论相当热门的议题,未来发展直得期待。」Chris总结。
农渔畜牧业的AI视觉好帮手
第二位讲师辰明智能创办人与执行长Gray,专注发展AI视觉感知技术多年,对於AIoT在农林渔牧产业中的应用极具心得。
「传统农林畜牧业大量仰赖人工的运作模式,正面临人囗结构老化、缺工等挑战。」Gray提到,目前虽已有农用摄影机等科技辅助,但仅具录影功能,缺乏量化数据与异常反??功能,仍须人工监测,於节省人力方面作用相当有限。
由辰明智能所研发的AgroONE即时生长监控系统,透过Edge AI设备,针对农作物的生长状况进行即时监控,以纯视觉方式,将植物的生理叁数量化,如光合作用率、含水含氮率等,农民也可透过系统搭载的APP,远端观看巡视作物状态,减轻工作负担的同时,更能提升产品品质。
图二 : AgroONE系统无论动物植物的培育皆可应用。 |
|
同样的系统也能运用在畜牧产业,辰明智能专攻白肉鸡养成领域,经验丰富。
白肉鸡作为人类社会重要的肉品来源,其养殖方法却仍大多仰赖人力,此外,禽流感等疾病也是相当棘手的问题。
辰明智能尝试在畜舍中导入AI视觉感知技术,小型化的设备垂挂在天花板,利用立体视觉量化鸡只生长状态,同时以光谱分析量化健康情形,再藉由边缘运算即时监控,除了能减少人力需求,还可更精准的掌握鸡只生长状态,同时在鸡只染疫时防微杜渐,避免农民因禽流感扑杀鸡只致使血本无归。
Gray表示:「我们想要让农渔畜牧业变得更便宜更简单。」
小结
过去以人力为主的农渔畜牧产业,随着劳动力结构改变岌岌可危,然人类生存不能没有粮食,农业为立国之本仍有其重要性,所幸科技改变生活,有了AI的辅助,未来的农业或能摆脱传统辛劳费力的运作模式,以低人力、高科技的方式重获新生。
(本文由VMAKER授权转载)