早在1956年,Allen Newell、Cliff Shaw和Herbert Simon合力制作了一个名为「逻辑理论家(The Logic Theorist)」的电脑程式。该程式由RAND Corporation资助开发,旨在模仿人类解决问题的技能,许多人认为它是人工智慧(AI)的第一个范例。
时至今日,大语言模型(Large Language Model;LLM)已成为人工智慧的代言人。LLM是一种计算演算法,通过密集训练来学习文本(TEXT)文档中的统计关系,从而实现通用语言生成和其他自然语言处理任务,OpenAI的ChatGPT可能是最知名的示例。
尽管LLM非常有用,但它只是人工智慧其中一个小众应用;相比之下,把自动化系统收集的大量资料提供予机器学习(Machine Learning;ML)演算法更加大有作为。ML是人工智慧的一种应用,允许电脑在没有直接程式设计或指令的情况下进行学习,从而不断提高机器的智慧。
全球互联的物联网能够让人们收集几??无限量资料,这些资料不仅可以提供给云端的电脑,还可以用来促进ML演算法,从而为物联网内数十亿联网设备提高智慧。这意味着,即使是最普通的物联网设备也能不断提升智慧,为未来的工业、商业、教育、医疗等领域带来巨大潜力。
就拿最不起眼的冰箱来说吧,全世界有数十亿台冰箱,占全球总耗电量的12%。通过不断向ML模型提供外部和内部温度资料、柜内存放食物的数量、柜门打开的频率,以及电网负荷较低时段等高级资料,智慧冰箱压缩机控制器可以快速适应使用模式,以减省能源使用和碳排放,这是非常美好的愿景。目前的挑战在於如何将硬体和软体结合起来以实现无缝运行。

图一 : 通过不断向ML模型提供各种资料,智慧冰箱压缩机控制器可以快速适应使用模式,以减省能源使用和碳排放。 |
|
向边缘发展
1999年,当Kevin Ashton提出「物联网(the Internet of Things)」一词时,他对网路的设想与今天的物联网略有不同。Ashton预测数十亿个廉价、小巧的感测器将其资料传送到功能强大的集中式计算资源,并进行繁重的计算操作。Ashton的预测很有远见,但也有失算之处:通过网路从许多设备发送连续资料是复杂、耗能且费用昂贵的事情。
如今,我们通过将物联网的智慧分配到边缘,最大限度地减少了网路流量。因为当代物联网设备的资源虽然难与云端电脑相比,但也已经能够独当一面,配备了专用应用处理器和充足的记忆体资源。这使得物联网能够支援广泛分布的计算资源,其中的单个设备均能够进行重要的边缘处理。
在最基本的层面上,边缘处理可让物联网设备对资料进行本地筛选,以确定哪些资料是不值一提,哪些资料则显示情况正在发生变化并应当转发做进一步分析。ML使得边缘设备不仅能检查资料是否超过预设??值,还能推断出变化的含义,然後采取相应措施。
Nordic Semiconductor战略与产品管理执行??总裁Kjetil Holstad表示:「我们将这项全新功能称为边缘人工智慧(Edge AI),它为物联网产品带来了一些关键优势:可在本地即时处理输入,因此无需使用频宽通过无线链路发送原始资料,同时不会浪费时间等待云端的回应。其次,本地处理相比空中发送资料耗电更少,因而物联网设备可以运行更长时间或使用更小的电池。」
监测机器轴承的温度感测器就是此类功能的示例。如果轴承温度逐渐升高,该感测器可以使用ML模型来推断这仅仅是机器在预热,无需担心;若轴承温度快速上升,则可能显示润滑出现故障,并触发感测器在发生损坏前关闭机器。
谘询公司德勤在「预测性维护(Predictive Maintenance)」定位档中表示:「资料是任何预测性维护引擎的动力。其质素和数量是分析根本原因和提前预测故障的限制因素。物联网提供了大量精确资料,并与边缘人工智慧一起为预测性维护领域带来了巨大的经济潜力。」
德勤公司指出,每年非计划性机器停机给工业制造商造成的损失估计高达500 亿美元;实施预测性维护,每年平均可节省材料成本5%至10%;设备正常执行时间可延长10%至20%;总体维护成本可降低5%至10%;维护规划时间可缩短 20%至50%。

图二 : 通过在设备中添加边缘人工智慧,监测机器轴承的温度感测器可以使用ML模型来推断机器预热的状况。 |
|
工程技术挑战
利用人工智慧和ML增强物联网确实好处多多,但大规模实施这种技术却充满挑战。当今许多先进的ML模型都需要大量的计算资源和功耗来执行推理(运行 ML模型并根据输入的资料做出决策)。然而,当今大量的物联网连接设备虽然能够执行一些边缘计算,但却缺乏人工智慧和ML所需的资源。
Tiny Machine Learning或TinyML是一种解决方案。TinyML是ML的一个分支,它简化了ML技术,使其适用於电池供电、基於微控制器的嵌入式设备。TinyML使得小型物联网感测器能够以即时回应速度执行ML任务。
TinyML使得当今的无线SoC能够支援ML,而未来的新一代硬体将能够运行更先进的ML程式。Nordic Semiconductor投入了数百万美元经费进行研究,将这类硬体推向市场。
「我们设计了能够以最隹化方式运行ML的低功耗SoC,不需要专用的ML加速器。关键在於将创新工程与最大资料处理能力和最小功耗相结合。」Holstad表示:
「随着物联网中人工智慧和ML不断发展,对其提出的要求也会越来越高;这可能意味着未来超低功耗嵌入式设备将配备专用ML加速器内核。但现在,我们的高效SoC和SiP展示最隹化的力量,毋须加速器也可实现先进的ML。」
他以Nordic双核nRF5340和新型第五代无线SoC产品nRF54H20为例,这些 SoC采用Edge Impulse的TinyML软体。Holstad解释道:「凭藉nRF53和nRF54系列,Nordic成功地打破了处理能力和功耗之间的折衷权衡。这意味着开发人员可以立即获得在电池供电SoC上支援高级ML所需的高处理能力和低功耗特性。Nordic还提供开展ML专案所需的全部开发工具和软体。」
ML大放异彩
尽管面临严峻的工程技术挑战,但开发人员已经开始将带有ML的物联网产品引入商业领域。挪威公司Sensorita就是一个示例,该公司推出的智慧废物管理解决方案基於Nordic公司nRF9160 SiP蜂巢物联网产品和挪威生命科学大学研究的雷达技术,用於评估大型垃圾箱的装载水准和内容物。
Sensorita执行长Ulrikke Lien表示:「客户移动废物处理箱,或者弃置与分类标示不同的废物,使得废物处理公司无法知道垃圾箱有多满、里面装了什麽或何时应该取走。这给物流和生产计画带来了问题,而且不必要的回收操作也增加了二氧化碳排放量。」
Sensorita已借助一款结合雷达和GPS的坚固感测器解决了这一问题。感测器每小时多次获取垃圾箱内部的雷达图像,然後将这些图像发送到Sensorita云平台进行分析。通过利用在数百万幅雷达图像上训练出来的ML演算法,感测器能够估算出垃圾箱的满载程度以及所装载的主要垃圾类型。
nRF9160 SiP使用蜂巢网路定位资料和GNSS三角测量法记录每个垃圾箱的精确位置,并通过其LTE-M/NB-IoT数据机将感测器资料传输到Sensorita云平台。
Sensorita还利用ML最隹化卡车在城市中清空垃圾箱的路线,结果节省燃料、减少工时,并且降低碳排放。
更高效的冰箱、预测性维护和垃圾箱最隹化固然重要,但都属於小众产品。当ML在网路中广泛部署时,成果将无比巨大,例如对医疗保健的影响。像Nordic的nRF54H20这样的无线SoC支援具有各种感测器(如心率、心率变异性、温度、呼吸频率、血氧、压力、疲劳和其他生理迹象感测器)的穿戴式设备。这种穿戴式设备不仅适用於健身爱好者,还适用於老年人、成年人和儿童。
有了ML和蜂巢物联网连接,穿戴式设备能够同时持续监测多种生命体徵。如果某些或所有生命体徵出现变化迹象,穿戴式设备的ML模型就能判断这种趋势是微不足道的,还是严重的紧急医疗情况。例如血氧水准、心率、血压和呼吸的突然变化显示心脏问题迫在眉睫。如果情况严重,穿戴式设备还能够通知急救人员,同时在其到达之前提供重要的资料。
这类设备可以减少医院就诊次数,同时最隹化对真正需要人士的护理,从而节省紧张的医疗预算,这将为全球节省数千亿美元。
在依靠电池运行的低功耗嵌入式设备上执行ML的能力,将会改变物联网,促使网路变得更加智慧、强大和灵活,还将带来先前不可能实现的新型产品和应用。未来将会十分精彩,并且比人们想像的更快来临,敬请大家拭目以待。