你知道神经网路,你也知道它们各有擅场。但你知道台湾自己也开发出了一种新的架构,而且它的效能还能名列前茅。它的名称是「」,能加速深度学习的硬体效能,目前已可在GitHub进行免费的下载。
HarDNet的全名为「Harmonic Densely Connected CNN」,为科技部人工智慧策略中,半导体「射月计画」的发展项目之一。
负责带领团队的清华大学教授林永隆表示,射月计画成立之初,就已锁定了神经网路为主要项目,要发展出一个最适合硬体实现的类神经网路架构。而经过团队的努力,已成功研发出「HarDNet」技术。
林永隆表示,「HarDNet」是一种快速、准确、安全的新型类神经网路,比起知名的ResNet架构,HarDNet只须三分之二的运算时间,便能达到相同的准确度。在影像辨识、物件识别、物件追踪、视讯语意分割等应用,HarDNet都有优异表现。
尽管开发出极具竞争力的方案,但林永隆的团队仍将该网路架构以免费的方式提供,并透过GitHub提供开放式的下载.让更多的人工智慧应用开发者都能受惠。
林永隆指出,HarDNet透过简化连线、谐波式规则与权重式频道数的方式,达成了绝隹的运算效能。采用此架构的系统不仅可以有优异的运算效能,同时可以减少记忆体存取,因此更实现了轻量化系统、省电与安全的性能。
特别在安全性方面,HarDNet对恶意攻击也有更强的对抗能力。所谓的对抗式攻击(adversarial attack),是者可使训练完成的深度神经网路模型,对人为刻意设计的输入资料(adversarial example)做出误判。而HarDNet比起其它神经网路模型(如SSD-VGG),具有更强的攻击免疫力,如再加入对抗式训练〈adversarial training〉,侦测率可达90%以上。
而HarDNe的效能也已在多项的国际竞赛中获得肯定,包含叁加2020年低功率电脑视觉(LPCV)国际竞赛,获得银牌与铜牌。其中一项在FPGA硬体平台快速辨识给定照片中的物体,交大黄俊达教授的团队首次叁加就夺得亚军,其关键就是采用HarDNet作为神经网路模型骨干,透过优化动态记忆体存取大幅缩减辨识时间,取得辨识率最高的成绩。
另一项成就,是设计行动装置的神经网路模型,测试平台为LG G8与Google Pixel 4两款智慧型手机,交大吴凯强教授所指导交大、清大联队,与美国麻省理工学院团队并列季军。
然而,科技部主导的人工智慧计画,仍是以落实至产业应用为其目标,要能真正将其研究成果化为实际的产业产值才是重点。也因此,射月计画也鼓励团队成立新创公司,让技术可以真正商业化。目前已有「创鑫智慧」率先成立公司,并获准进入竹科。该公司所开发的神经网路加速器IP,也获得大厂采用。
科技部工程司司长徐硕鸿表示,射月计画共有六大主轴,其中AI是主要重点项目,其他还有感测器、资安、AR/VR等,整体共有约17的专案进行中。而包含「创鑫智慧」在内,共有四家新创有??脱颖而出,其领域为感测器和光谱技术等。