为了适应网路边缘人工智慧(AI)计算及相关推论演算法的快速发展,韩国智慧硬体公司(IHWK)正在为神经技术设备和现场可程式设计神经形态设备开发神经形态计算平台。Microchip Technology Inc.透过子公司冠捷半导体 (SST) 叁与协助开发,为该平台SuperFlash memBrain神经形态记忆体解决方案提供评估系统。该解决方案基於Microchip经行业验证的非挥发性记忆体(NVM)SuperFlash技术并加以优化,可透过类比记忆体计算方法为神经网路执行向量矩阵乘法 (VMM)。
memBrain技术评估工具包旨在让IHWK展示其神经形态计算平台在边缘运行推论演算法的绝对能效。最终目标是为生成式人工智慧模型、自动驾驶汽车、医疗诊断、语音处理、安全/监控和商用无人机等应用创建超低功耗类比处理单元(APU)。
由於目前用於边缘推论的神经网路模型可能需要5000万或更多突触(权重)进行处理,因此纯数位解决方案需要足够频宽来使用晶片外DRAM,这对神经网路计算造成了瓶颈,降低了整体计算能力。相比之下,memBrain解决方案在超低功耗亚??值模式下将突触权重储存在晶片上浮动栅中,并使用相同储存单元进行计算,进而显着提高了能效和降低了系统延迟。与传统数位DSP和基於SRAM/DRAM的方法相比,该方案可将每次推论决策的功耗降低到原来的1/20到1/10,并能显着降低总体物料清单。
为了开发APU,IHWK 还与位於大田的韩国科学技术院 (KAIST) 合作进行设备开发,并与位於首尔的延世大学 (Yonsei University) 合作提供设备设计协助。最终的 APU 预计将优化推论的系统级演算法,并在每瓦 20-80 TeraOPS 之间运行,实现了为电池供电设备设计的记忆体计算解决方案的最隹效能。
Microchip技术授权业务部门SST??总裁Mark Reiten表示:「透过使用成熟的NVM而非替代性晶片外记忆体解决方案来执行神经网路计算和储存权重,Microchip的memBrain记忆体计算技术有??突破在网路边缘执行人工智慧处理所面临的大规模资料通信瓶颈。与韩国领先的研发公司IHWK、相关大学和早期用户开展合作,进一步证明了Microchip神经处理技术的先进性,也将推动Microchip在人工智慧领域的发展。」
IHWK 分公司经理Sanghoon Yoon 表示:「韩国是人工智慧半导体发展的重要热点地区。我们的非挥发性记忆体和新兴记忆体专家已经证实,Microchip基於成熟非挥发性记忆体技术的memBrain产品是创建记忆体计算系统的最隹选择。」
将神经模型永久储存在memBrain解决方案的处理元件中,还可支援用於即时神经网路处理的即时开启功能。IHWK正寻求利用SuperFlash记忆体浮动栅单元的非挥发性,支援低功耗边缘计算设备使用先进ML模型,建立机器学习推论的新基准。