日前,NEC宣布研发出提高辨识精准度更为简易的「深度学习自动优化技术」。
|
针对各层类神经网路自动设定正规化的示意图/ 因应学习资料量变化的辨识错误率走势图 |
以往进行深度学习(Deep Learning)时,依据类神经网路的构造(注1)来调整学习方式相当困难,所以无法在整个网路学习时达到最优化, 因而无法充分发挥原本的辨识效能。本次NEC研发的技术,搭配类神经网路学习的进度,因应其构造自动进行优化,能够轻易达到比过去更高的辨识精准度。
运用本技术,在影像辨识及声音辨识等运用深度学习技术的各个领域,能够进一步提升辨识的精准度。例如,提升人脸辨识与行为解析等影像监控的辨识精准度,在基础设施等处进行保养点检时提升效率,更可??自动检测出故障、事故或灾害等情况。
近年来,深度学习已有飞跃性的进展。以影像辨识、声音辨识为始,广泛运用在不同领域上。所谓的深度学习,是运用具备多层构造的类神经网路,让电脑学习事先准备好的资料,进而提升辨识精准度。然而,若电脑过度学习资料,则会出现「过度训练(注2)」的现象,也就是只有学习过的资料才有较高的辨识精准度,辨识从未学习过的资料时精准度就会下降。为了避免这种情况的发生,通常会使用「正规化(注3)」方式,来调整深度学习的过程。
类神经网路的学习过程,会因应结构而产生复杂的变化,所以过去只能对整个类神经网路进行同样的正规化方式。结果在类神经网路各层之中,有些出现过度训练现象、有些则无法顺利学习等问题,因而难以充分发挥原有的辨识效能。此外,由於逐一手动调整各层学习进度极为困难,市面上对自动化调整的需求呼声也相当高。
NEC本次研发的技术,是依据类神经网路的结构,预测每一层的学习进度,并因应各层学习进度逐层自动设定正规化。透过这样的技术,能够优化整个类神经网路的学习情况,与传统作法相比,更能降低20%的辨识错误率,辨识精准度有所改善。
新技术的优点
1. 依据类神经网路的结构,自动优化学习情况
依据类神经网路的结构,预测每一层的学习进度,并因应各层学习进度逐层自动设定正规化。透过这样的技术,能够优化整个类神经网路的学习情况,也解决了过去各层过度训练、无法顺利学习的问题。不仅如此,运用本技术进行辨识实验,在辨识手写数字的影像资料时,降低了约20%的辨识错误率,辨识精准度有所改善。
2.计算量与过往相同,也能轻松达到高精准度
在类神经网路进行深度学习之前,只须运行本技术一次,即使学习的计算量与过往相同,也能轻松达到高精准度。
NEC集团致力於全球推广「社会解决方案事业」,以提供安全.安心.效率.公平的社会价值,融合先进的ICT技术与知识,实现更为明亮而丰裕、更具效率而精粹的社会。
(注1) 类神经网路(Neural Network):由人造神经细胞(神经元Neuron)组成的神经网路。
(注2) 过度训练(Overfitting):对资料进行过度训练,因而在辨识从未学习过的资料时精准度下降的现象。
(注3) 正规化(Regularization):降低模型的复杂性,进而避免过度训练的方法。