搜尋

會員登入

搜尋

導覽

會員

未來無所不在的AI架構導向邊緣和雲端 逐步走向統一與可擴展

推論的時代

瀏覽次數:6284

AI/ML訓練開發出供推論使用的模型,用於識別任何需要辨識的物件。這些物件可以是智慧城市街道上順暢或擁擠的交通、用於實現安全存取控制的身份證件和人臉比對的許可級別、向客服中心撥打電話的對話內容,抑或是郵政分發中心中信封上的手寫地址。


訓練通常在企業資料中心或雲端進行,這些環境中有眾多高效能伺服器、充裕的記憶體、硬體加速器和高速網路可以投入工作負載。在這種環境下,需快速完成工作的訓練使用大量供給運算、網路連結和冷卻的電力。儘管推論工作負載也能在資料中心或雲端執行,但由於多種原因,越來越多推論任務正遷移至邊緣。


首先是延遲問題。將原始資料發送到雲端或資料中心耗用時間,因此需要更長的時間來執行推論,而且將想要的答案或決策發送至邊緣的時間也會增加。以工廠自動化、雷達、電子作戰等即時任務來說,費時過長的決策會導致高昂成本。
...
...

使用者別 新聞閱讀限制 文章閱讀限制 出版品優惠
一般使用者 10則/每30天 0則/每30天 付費下載
VIP會員 無限制 25則/每30天 付費下載

Card Image

Microchip數位液位偵測技術,不只能偵測液位

液位偵測(Level Sensing)是現代工業與生活應用中至關重要的一環 。Microchip提出的數位液位偵測(Digital Level Sensing)方案,不僅能精準偵測液位;透過應用優化後,還能擴展至固體物…

液位偵測(Level Sensing)是現代工業與生活應用中至關重要的一環 。M…