CTIMES- 利用熟悉工具在 FPGA上部署邊緣 AI

邊緣 AI融合多功能工作負載，致使傳統架構面臨低延遲與確定性的挑戰。當FPGA結合專用張量區塊與熟悉工具鏈，可協助開發者突破軟硬體壁壘，實現高效能、長壽命的智慧邊緣部署。

網路邊緣的人工智慧（邊緣 AI）幾乎不僅限於推論功能。實際部署通常會涉及高速輸入／輸出（I/O）、訊號調節以及即時控制迴路，且這些全都會同時運作。這些多功能工作負載要求嚴密的協調以及不同等級的確定性，因此設計人員不容易以主流 AI 硬體滿足需求。

有兩個因素會讓問題更加複雜。首先，AI模型正以極快的速度演進，因此設計人員必須採用可支援快速演算法更新的平台。此外，許多邊緣系統會在現場運作長達十年甚至更久，因此確保長期適應能力並不容易。其次，從模型的訓練到系統的部署，這過程仍雜亂無章。資料科學家會使用PyTorch和TensorFlow，但嵌入式團隊則使用完全不同的工具鏈，這在交接過程中會造成摩擦，導致生產時間變慢。
...
...