日前,NEC宣佈研發出提高辨識精準度更為簡易的「深度學習自動優化技術」。
|
針對各層類神經網路自動設定正規化的示意圖/ 因應學習資料量變化的辨識錯誤率走勢圖 |
以往進行深度學習(Deep Learning)時,依據類神經網路的構造(註1)來調整學習方式相當困難,所以無法在整個網路學習時達到最優化, 因而無法充分發揮原本的辨識效能。本次NEC研發的技術,搭配類神經網路學習的進度,因應其構造自動進行優化,能夠輕易達到比過去更高的辨識精準度。
運用本技術,在影像辨識及聲音辨識等運用深度學習技術的各個領域,能夠進一步提升辨識的精準度。例如,提升人臉辨識與行為解析等影像監控的辨識精準度,在基礎設施等處進行保養點檢時提升效率,更可望自動檢測出故障、事故或災害等情況。
近年來,深度學習已有飛躍性的進展。以影像辨識、聲音辨識為始,廣泛運用在不同領域上。所謂的深度學習,是運用具備多層構造的類神經網路,讓電腦學習事先準備好的資料,進而提升辨識精準度。然而,若電腦過度學習資料,則會出現「過度訓練(註2)」的現象,也就是只有學習過的資料才有較高的辨識精準度,辨識從未學習過的資料時精準度就會下降。為了避免這種情況的發生,通常會使用「正規化(註3)」方式,來調整深度學習的過程。
類神經網路的學習過程,會因應結構而產生複雜的變化,所以過去只能對整個類神經網路進行同樣的正規化方式。結果在類神經網路各層之中,有些出現過度訓練現象、有些則無法順利學習等問題,因而難以充分發揮原有的辨識效能。此外,由於逐一手動調整各層學習進度極為困難,市面上對自動化調整的需求呼聲也相當高。
NEC本次研發的技術,是依據類神經網路的結構,預測每一層的學習進度,並因應各層學習進度逐層自動設定正規化。透過這樣的技術,能夠優化整個類神經網路的學習情況,與傳統作法相比,更能降低20%的辨識錯誤率,辨識精準度有所改善。
新技術的優點
1. 依據類神經網路的結構,自動優化學習情況
依據類神經網路的結構,預測每一層的學習進度,並因應各層學習進度逐層自動設定正規化。透過這樣的技術,能夠優化整個類神經網路的學習情況,也解決了過去各層過度訓練、無法順利學習的問題。不僅如此,運用本技術進行辨識實驗,在辨識手寫數字的影像資料時,降低了約20%的辨識錯誤率,辨識精準度有所改善。
2.計算量與過往相同,也能輕鬆達到高精準度
在類神經網路進行深度學習之前,只須運行本技術一次,即使學習的計算量與過往相同,也能輕鬆達到高精準度。
NEC集團致力於全球推廣「社會解決方案事業」,以提供安全.安心.效率.公平的社會價值,融合先進的ICT技術與知識,實現更為明亮而豐裕、更具效率而精粹的社會。
(註1) 類神經網路(Neural Network):由人造神經細胞(神經元Neuron)組成的神經網路。
(註2) 過度訓練(Overfitting):對資料進行過度訓練,因而在辨識從未學習過的資料時精準度下降的現象。
(註3) 正規化(Regularization):降低模型的複雜性,進而避免過度訓練的方法。