你知道神經網路,你也知道它們各有擅場。但你知道台灣自己也開發出了一種新的架構,而且它的效能還能名列前茅。它的名稱是「HarDNet」,能加速深度學習的硬體效能,目前已可在GitHub進行免費的下載。
HarDNet的全名為「Harmonic Densely Connected CNN」,為科技部人工智慧策略中,半導體「射月計畫」的發展項目之一。
負責帶領團隊的清華大學教授林永隆表示,射月計畫成立之初,就已鎖定了神經網路為主要項目,要發展出一個最適合硬體實現的類神經網路架構。而經過團隊的努力,已成功研發出「HarDNet」技術。
林永隆表示,「HarDNet」是一種快速、準確、安全的新型類神經網路,比起知名的ResNet架構,HarDNet只須三分之二的運算時間,便能達到相同的準確度。在影像辨識、物件識別、物件追蹤、視訊語意分割等應用,HarDNet都有優異表現。
儘管開發出極具競爭力的方案,但林永隆的團隊仍將該網路架構以免費的方式提供,並透過GitHub提供開放式的下載.讓更多的人工智慧應用開發者都能受惠。
林永隆指出,HarDNet透過簡化連線、諧波式規則與權重式頻道數的方式,達成了絕佳的運算效能。採用此架構的系統不僅可以有優異的運算效能,同時可以減少記憶體存取,因此更實現了輕量化系統、省電與安全的性能。
特別在安全性方面,HarDNet對惡意攻擊也有更強的對抗能力。所謂的對抗式攻擊(adversarial attack),是者可使訓練完成的深度神經網路模型,對人為刻意設計的輸入資料(adversarial example)做出誤判。而HarDNet比起其它神經網路模型(如SSD-VGG),具有更強的攻擊免疫力,如再加入對抗式訓練〈adversarial training〉,偵測率可達90%以上。
而HarDNe的效能也已在多項的國際競賽中獲得肯定,包含參加2020年低功率電腦視覺(LPCV)國際競賽,獲得銀牌與銅牌。其中一項在FPGA硬體平台快速辨識給定照片中的物體,交大黃俊達教授的團隊首次參加就奪得亞軍,其關鍵就是採用HarDNet作為神經網路模型骨幹,透過優化動態記憶體存取大幅縮減辨識時間,取得辨識率最高的成績。
另一項成就,是設計行動裝置的神經網路模型,測試平台為LG G8與Google Pixel 4兩款智慧型手機,交大吳凱強教授所指導交大、清大聯隊,與美國麻省理工學院團隊並列季軍。
然而,科技部主導的人工智慧計畫,仍是以落實至產業應用為其目標,要能真正將其研究成果化為實際的產業產值才是重點。也因此,射月計畫也鼓勵團隊成立新創公司,讓技術可以真正商業化。目前已有「創鑫智慧」率先成立公司,並獲准進入竹科。該公司所開發的神經網路加速器IP,也獲得大廠採用。
科技部工程司司長徐碩鴻表示,射月計畫共有六大主軸,其中AI是主要重點項目,其他還有感測器、資安、AR/VR等,整體共有約17的專案進行中。而包含「創鑫智慧」在內,共有四家新創有望脫穎而出,其領域為感測器和光譜技術等。