CTIMES- 使机器学习推论满足实际效能需求

介绍：即时机器学习推论

机器学习是支撑新型服务的技术，透过使用自然语音互动与影像辨识提供无缝社群媒体或客服中心体验。此外，它能够在与大量变数相关的巨量资料中辨识出模式或异常，因此经训练的深度学习神经网路也将透过数位分身（digital twin）与预测性维护等服务，转变我们进行科学研究、财务规划、智慧城市营运、工业机器人编程和执行数位业务转型的方式。

无论经训练的网路是部署在云端还是在网路边缘的嵌入式系统内进行推论，大多数使用者都期望能够达到确定性的传输量和低延迟。然而，想在可行的尺寸和电源限制下同时达到这两个要求，需在系统的核心架构高效且大规模的平行运算引擎，以有效率地传输资料，而这需要弹性的记忆体阶层和灵活应变的高频宽互连等功能。
...
...