COMPUTEX 2024期间,已明显可见到人工智慧(AI)正逐步落实於各行各业,从制造业到医疗保健、交通管理到消费电子的应用范围广泛,对於许多产业来说都是一场革命,其中导入AOI与机器视觉等边缘AI相关技术应用更为关键。
自从1980年代的机器学习(Machine Learning)时期,开始让电脑具备自主学习、改善能力,并延伸至特定领域,便率先导入语音辨识、翻译,或是医疗影像病变、产品瑕疵检测等。到了2016年AlphaGo横空出世,击败围棋界棋王,更被视为近期AI发展最大突破。
待2022年生成式AI问世,持续推动跨界投入商业化等更有生产力效益的场域。根据研调机构Statista Research预估,受惠於AI技术的持续突破,全球电脑视觉市场在理解图片与脸部验证领域应用将於2024年再创新高,并以每年约11%的速度成长。
![图一 : 当人工智慧(AI)正逐步落实於各行各业形成一场革命,其中导入AOI与机器视觉等边缘AI相关技术应用更为关键。(摄影:陈念舜)](/art/2024/08/221726418080/p1S.JPG)
图一 : 当人工智慧(AI)正逐步落实於各行各业形成一场革命,其中导入AOI与机器视觉等边缘AI相关技术应用更为关键。(摄影:陈念舜) |
|
目前针对机器视觉由取像、分析,到结果的输出,大致可分为「影像撷取」、「影像处理」、「影像分析」3步骤。应用在工业自动化与机器人,例如视觉瑕疵检测、3D视觉定位、分类计数,甚至影像监控/辨识等应用,成为AI视觉系统的技术核心。
研华布局AI规模化 促四角平稳落地
其中依研华产业云暨影像科技??总经理鲍志伟指出,边缘(Edge AI)将是下一波AI的发展趋势,如同过往的产业电脑(Industrial PC;IPC)发展,须先达到规模化经济,才能加速产业AI化落地,建构起立足的优势。目前已在先进大国部署,预估将会在2025~2026年间大量复制及爆发式成长;生成式AI产品则还需要约3~4年验证时间,2029年始显着成长。
至於跃升规模化落地的首要方程式,则包含:场域、平台、协作与AI加速等4大关键要素,产业生态系的构建与协作,更是至关重要!鲍志伟进一步分析,边缘AI首先须经由各国政府补助开发,逐步导入智慧城市场域,以利规模化发展;其次是在影像、医疗等领域,通过认证并获采用,利用各种AMR自主移动机器人来填补产业人力不足的问题;最後则是整体应用更臻成熟之後,预料将出现产品创新期。
![图二 : 研华公司推出最新AI边缘运算系统与伺服器系列产品,整合AI软体和预先训练的模型,将能大幅缩短开发与部署时间。(souce:研华)](/art/2024/08/221726418080/p2S.JPG)
图二 : 研华公司推出最新AI边缘运算系统与伺服器系列产品,整合AI软体和预先训练的模型,将能大幅缩短开发与部署时间。(souce:研华) |
|
目前在产业所使用的AI-based检测设备,已能透过深度学习(Deep learning)模型提升比传统型检测设备还高的良率,将在下半年逐渐成长;导入AI技术的AMR/AGV配送机器人,更广泛应用在物流场域,未来在成功案例不断获得复制之下,预估明、後年将进入边缘AI的高速成长期,研华已在IPC客户端看见各种应用百花齐放。
但此类产品欲走向AI化,在硬体规格化、AI模型的部署与管理,以及能够驱动边缘AI运作的高强度运算力方面,仍存在须克服的难题。其中,相较於目前消费市场上AI PC装置约达到40TP以上算力,IPC AI化则至少须1200TP,还应考虑使用算力的规模、情境和方向不同,可能比起前者多出上万倍;并持续创造出过去IPC未曾接触到的不同场景、领域,如工业用有持续自动化、省人力需求。
且基於Edge AI伺服器须因应防水、防尘不同环境等级挑战,不像在Data Center的环境较单纯,必须克服如下挑战:硬体规格选择、AI模型大量部署管理的需求,有必要更新时系统不能停机。边缘生成式AI比起云端须提供更即时的反应、更低的资安风险及网路传输成本,更适用於需要即时反应的智慧城市与安全控制应用,并已成功导入运用在研华自家产线。
目前已经初步释出边缘AI产品,并应用NVIDIA方案的全系列产业AI平台,分别从边缘到云端展示最新且完整的AI边缘运算系统与伺服器,整合AI软体和预先训练的模型,将能大幅缩短开发与部署时间。
偕同笪??打造了AI光学字元辨识(OCR)与AI光学瑕疵检测(AOI)等硬软体与服务的整合方案,适用安装於空间限制的设备中;或於高速流水产线上,执行高速包装喷印检查或是出货检查。
此AI OCR解决方案使用研华ICAM-520智能相机,并内建NVIDIA Jetson运算模组,整合光源、镜头与多种语言模型,并以其轻巧体积且便利安装之特性,适用安装於空间限制的设备中,或於高速流水产线上,执行高速包装喷印检查或是出货检查。
可应用在高速自动化检测设备,透过AI抓出难以定义之瑕疵或非预期的瑕疵,此将大幅降低人力成本并同时提高生产良率与检测速度,包括台湾半导体代工厂正诚电子,已导入AI AOI方案检测,打造半导体封装检测生产线。
除了叁与智慧城市专案,也与韩系客户深化智慧交通合作,更持续强化人脸辨识技术能量。至於未来生成式AI导入边缘端,将可??延展边缘AI的功能性,如原本经过CNN形成的辨识和判断模式,如今则可由生成式AI在边缘统筹、分析及判断整个场域并产出报告;农业机器人则是负责辨识农作物的成熟度与采集工业,进一步能推算成熟时间与评估种植策略。
宸曜紧随NVIDIA脚步 垂直整合硬软体资源
宸曜科技资深售前工程师李冠毅也预测全球边缘AI市场潜力的驱动因子包含:IoT装置增加,因产品制造品质提高,供应链管理增强需求;5G技术整合,提供更高的资料传输效率并减少延迟,加强边缘AI能力;AI与机器学习的进步,经由演算法提升了边缘AI系统的效率与能力;政府与产业支援,来自智慧城市专案与AI驱动的计划,促进了Edge AI成长。
然而,如果要在严苛环境条件下部署新兴领域应用考验,边缘运算中的电脑设计和稳定性会是关键。该公司於2010年成立之初,便专注打造搭载X-86晶片的宽温无风扇系列强固电脑,以满足各种严苛环境条件下使用。
适逢2013年业界开始发现机器在图像识别上更为精准、快速,从而导入工业智动化、智慧交通,也发表自家车载无风扇宽温电脑;加上2015年Aphgo问世後,开始思考该如何藉强化学习技术、环境,反??自驾车定位。
并顺应在2015~2016年间自驾技术兴起,需要克服车上电压、温度、震动等问题,宸曜最终在2016年打造出首台整合自驾技术的GPU/GUDA运算的Nuvo系列工业电脑,在百度阿波罗自驾车技术平台上担任AI大脑;且具备专利散热技术,可支援250W GPU Card运行。
至今,宸曜的Edge AI产品线越发完整,到了2020年正式加入NVIDIA合作夥伴网路,而能提早叁与前期讨论和测试验证阶段、更快推出边缘运算平台产品,并利用生成式AI来刺激应用创新,带动软硬体新商机。
同时推出世界首款兼具工业电脑和车载应用设计、支援双GPU的AI电脑,甚至因应目前各国皆看好Edge AI在制造业的发展,占比约3~4成,尤其是在制程中对品质要求越来越高,而须加强供应链管理,如AOI+AMR需求的功能。
![图三 : 目前任何LLMs的创新突破,都有赖於巨量资料累积与庞杂强大的神经网路,加以训练,也让AIoT贴近感测器,更快速做出最好决策、同时确保资安。(摄影:陈念舜)](/art/2024/08/221726418080/p3S.JPG)
图三 : 目前任何LLMs的创新突破,都有赖於巨量资料累积与庞杂强大的神经网路,加以训练,也让AIoT贴近感测器,更快速做出最好决策、同时确保资安。(摄影:陈念舜) |
|
适逢2023年Chat GPT问世,包含智慧城市、物流与运输、工业制造、农业、零售、食品加工业等,也盼藉此提高生产力,对Edge Computing装置、Data Center AI Platform硬软体需求大增,从云端到边缘重新思考AI所面临的挑战,须支援多种扩充以满足严苛环境,效能又不打折,
宸耀也成为受NVIDIA肯定的Edge Computing供应商,锁定垂直市场、强固型产品设计,容易部署等优点,提供最优效能功耗比。透过无风扇/平头哥等强固散热良好的设计、有效散热的PCBA,具备-25~70℃宽温适应能力,确保GPU/CPU运行100%效能时不会降频;冲击和震动专利设计,可调节GPU固定支架和阻尼减震支架;满足工业及车载环境的8V to 48V宽电压输入设计,可承受车载环境电压波动;支援多种GPU(RTX、Quadro、Tesla、Jetson)及弹性扩充介面,符合IP66防水及防尘、防盐规范,满足客户端预算的需求。
李冠毅认为,其实任何LLMs的创新突破,都有赖於巨量资料累积与庞杂强大的神经网路,加以训练,布署到从云端到地端服务应用。另有业者会希??,将之布署到更接近边缘场域,藉以摊提节省硬体成本、更快Fine tune训练模型,也让AIoT贴近感测器,更快速做出最好决策、同时确保资安。
生成式AI当道 非监督式学习成主流
肯定资讯工程部经理曹志宇进一步表示,该公司身为专业机器视觉设备Zebra代理商,产品包括相机镜头、光源、系统等,与宸曜合作多年来,协助解决客户在电脑处理、高速存取资讯等相关课题。随着Zebra在2~3年前并购AI软硬体公司Matrox及其图像资料库之後,纳入旗下Zebra Aurora软体产品,打造Code-based开发环境,并经由Aurora image library SDK提供完整的影像开发环境,依序进入影像前处理等工作流程,包括可行性评估、原型设计,配合使用者开发API部署到电脑,具备互动式、直观便利的使用环境,加速评估使用流程;进而监控各API执行时间、次数等效能,建立4大Deep learning功能模组。
![图四 : 肯定资讯工程部经理曹志宇(摄影:陈念舜)](/art/2024/08/221726418080/p4S.JPG)
图四 : 肯定资讯工程部经理曹志宇(摄影:陈念舜) |
|
其中前3项属於进行监督训练者,包含:Image classification用来识别影像并分类,使用预期类别的样本影像;Image segmentation用来搜寻特徵(缺陷),并针对影像邻域像素分类、标记影像中的特徵,使用其分段预期特徵样本;Object detection用於寻找和计数物体,同样针对影像邻域定位预训练物件或特徵类别、提供侦测分数,并将影像中的物件或特徵包围在产出的边界框中,使用其封闭的预期物件样本来进行。
Anomaly detection则属於非监督式学习,用来检测与正常影像间差异,可捕获如影像或其邻域分类为缺陷等异常,并指示影像中的异常情况,仅使用无异常图像训练,所以毋须标注或注释,减少用来标注的大量人力;仅标示发现的异常状况和粗略位置;可设定分数??值来控制侦测灵敏度,利用(integrated)GPU来进行卸载或加速。
进而投入发展Zebra AI OCR技术,不必指定或学习字体即可读取,分别支援拉丁字元、数字、标点符号,可处理印刷、雕刻或浮雕的点状或实心文本;提供字串模型和限制以提高稳健性和相关性。因此,不必担心数以百计的化妆品的透明玻璃瓶,和不同反光及曲度、包装标签字元太小。
形塑机器视觉生态系 为应用服务加值
随着近年来AI技术扩大规模落地,已逐步渗入AOI、机器视觉应用领域。因为受惠於NIVIDIA执行长黄仁勋点将而声名大噪的所罗门公司,则从早期代理FA工厂自动化设备、工业机器人等产品,再投入开发3D视觉影像辨识平台已默默耕耘许久。
面对传统视觉系统具有许多环境上的限制,像是环境光线光影一变化可能会影响,或者物件复杂度高,辨识率就会下降等,都是工厂实际上会面临的考验,已在近年来导入AI技术後取得飞速进步,如过去AOI光学检测设备往往造成过杀(overkill)的问题,在导入AI之後,总算可以解决,但新的课题也随之而生。
所罗门公司董事长陈政隆便举例,过去他常遇到客户想要导入AI视觉或3D视觉进行AI检监测应用时都会问一个问题,就是:「到底要收集多少图片才能产生出AI模型?」一旦我们回覆至少需要1,000张图片以上,收集成千上万笔资料,并需要大量人力去贴标签、训练,客户听完之後就不太想做。
因此,所罗门团队当时便思考如何去创造一个软体平台,让客户以最少量的样本去做客制化的AI模型,以提高客户导入的意愿,解决客户不便之处。陈政隆说:「要做到这样的程度,我们必须串联与整合大量的硬体!」
如今所罗门建立的平台不只已经串联20~30个不同品牌机器人,还包括3~4种不同的2D、3D影像格式、各家品牌IP CAM等。并将现有的开源神经网路模型进行优化,整合各种软硬体,降低客户训练AI模型训练成本过高的问题。
甚至因为半导体客户良率高达99%,还会建议利用「瑕疵」来训练AI,即透过生成式AI去生成看样本起来像真的瑕疵的资料让AI学习。让客户甚至不需要写程式,只要以no code/low code方式就能创建自己所需要的应用模式来满足客户需求,也能让所罗门的软体能快速切入不同行业别市场。