人工智慧（AI）已經開始改變我們生活的許多面向，創造了顯著的社會進步。從自動駕駛汽車到AI輔助醫療診斷，都顯示出我們正處於一個真正變革時代的開端。

然而，既然有了機會，挑戰也隨之而來。AI推論是基於訓練有素的機器學習演算法進行預測的過程，無論是部署在雲端、邊緣還是終端，都要求在嚴格的功率預算（power budget）下提供優異的處理效能。人們普遍認為，僅憑CPU難以滿足這項要求，而是需要某種形式的運算加速才能更有效地處理AI推論的工作負載。

與此同時，AI演算法正快速發展，且比傳統晶片的開發周期更迅速。如果使用ASIC等固定功能的晶片實現AI網路，則可能因先進AI模型的快速創新而很快就被淘汰。
...
...