帳號:
密碼:
CTIMES/SmartAuto / 產品 /   
Mythic推首款類比型AI處理器 提升邊緣裝置低功耗效能
 

【CTIMES/SmartAuto 吳雅婷報導】   2021年01月23日 星期六

瀏覽人次:【601】
  

未來是AI處理器的時代,這些智慧元件將媲美現在的CPU與影像處理器,晉升為最主流的邏輯元件。但要在邊緣環境實現智慧普及化,元件設計仍有成本與功耗的關鍵挑戰。美國AI處理器新創公司Mythic(Mythic, Inc.)鎖定邊緣運算市場對低功耗推論運算(inference processing)的龐大市場,藉由其獨特的類比型記憶體內運算(analog comput-in-memory)技術,推出首款類比矩陣運算處理器M1108 AMP(Analog Matrix Processor),不僅效能與功耗效率雙雙升級,推論效能可達35 TOPS,準確率更達到數位型元件等級。

Mythic類比矩陣運算處理器M1108 AMP,創新採用類比運算架構來開發AI處理器,實現35 TOPS的優異推論效能,且最高功耗僅4W,推升邊緣運算裝置量產的市場潛力。
Mythic類比矩陣運算處理器M1108 AMP,創新採用類比運算架構來開發AI處理器,實現35 TOPS的優異推論效能,且最高功耗僅4W,推升邊緣運算裝置量產的市場潛力。

談到邊緣運算裝置,常見的CPU、GPU、ASIC等邏輯元件,皆以數位運算架構設計,在特定領域(domain-specific)的深度學習應用,顯現了超於常人的智慧運算效能,然而,這些元件多半採用例如5nm的先進製程,還需要DRAM等外部記憶體,功耗與成本也很嚇人。

Mythic業務發展部門資深經理David Kuo指出:「類比運算架構在邊緣裝置上展現了可觀優勢,能夠利用Flash記憶體,設計出記憶體內運算元件,不僅解決了運算延遲的問題,製程成本也能降低許多。」

新款M1108 AMP處理器採用了獨特的元件架構,因此大幅減省執行複雜AI模型時的運算功耗,工作量達尖峰時功耗最高僅4W,還能善用技術成熟且具成本優勢的40nm製程技術,系統設計上,也不需要DRAM或SRAM等外部記憶體,因此,與採用數位運算架構的元件相比,整體成本最多降低了10倍。

拆解這套元件架構可以發現,M1108 AMP整合了108個AMP區塊(tile),每區塊都內建了Mythic類比運算引擎(Mythic Analog Compute Engine;Mythic ACE),還包含了快閃記憶體陣列、類比數位轉換器(ADC)、網路晶片(Network-on-chip;NoC)路由器、SRAM與SIMD向量運算引擎,另搭載一顆32位元的RISC-V處理器(nano-processor),在AI運算架構的整體功耗、成本與效能上完成最佳配置。

「所有推論工作都在Flash執行,」David Kuo解釋:「而我們的關鍵技術,在於利用Flash進行乘法運算(multiplying),最重要的是,我們在M1108晶片上設計了2萬7千多顆ADC,因此元件尺寸必須微縮到極小,這也是Mythic的IP技術所在。」

Mythic的研發成果,也確實令人為之一亮,M1108 AMP的元件尺寸僅360mm2,滿足邊緣裝置的尺寸高敏感型需求。在控制與介面上,M1108提供四通道PCIe 2.0介面,能以2GB/s的最高頻寬連接到系統主處理器,另外還支援I2C、SPI、UART與GPIO介面,提升邊緣裝置的開發彈性與可行性。

如此精巧尺寸與低功耗的設計,在運算上還能執行ResNet-50、YOLOv3、OpenPose Body25等複雜的AI模型,為新世代的邊緣運算裝置提供了量產的優化方案。

此外,為了簡化開發人員的設計流程,Mythic也提供類比元件設計的相關軟體工具,包含從優化神經網路的分層(layer)、轉換模型的浮點運算格式(由FP32轉至INT8),到重新訓練AI模型、圖像編譯(graph compilation),提供一系列的開發資源,協助將AI模型轉換至Mythic AMP的類比運算處理器上執行推論。

M1108 AMP系列產品目前提供PCIe M.2和PCIe卡的規格選項。目標應用涵蓋現在常見的邊緣運算裝置,例如監控攝影機、網路攝影機、智慧家庭電器、工業機器視覺設備,以及其他AI新興應用,例如輕量型無人機、AR/VR互動裝置,以及消費性與零售機器人等。

Mythic成立於2012年,聚焦類比運算架構,累積了豐富的相關開發技術與經驗,尤其針對類比型元件的生產難題,成功開發出相應的元件架構技術來提供一系列的解決方案。

關鍵字: 邊緣運算  人工智慧  低功耗 
相關產品
支援RISC-V生態系 Imagination GPU用於賽昉的AI單板電腦
安森美半導體推出智慧拍攝相機平台 實現自動圖像識別
凌華推出DLAP x86深度學習加速平台 優化大規模的邊緣AI部署
高通推出第四代Snapdragon汽車駕駛座系列平台
宸曜最新GPU邊緣運算電腦 搭載NVIDIA Quadro實現即時AI推理
相關討論
  相關新品
Arduino Motor Shield
原廠/品牌:RS
供應商:RS
產品類別:PC Board
mbed
原廠/品牌:RS
供應商:RS
產品類別:PC Board
Arduino
原廠/品牌:RS
供應商:RS
產品類別:PC Board
  相關新聞
» 貿聯集團攜手騰輝、富比庫 創造一站式新產品加速開發平臺
» 強化人才培育 ADI攜手產學夥伴推出軟體工程專案
» 科思創2020下半年扭轉局勢 2021策略鎖定兩大領域
» 太克與安立知合作 推出PCIe 5.0收發器和參考時脈解決方案
» 愛德萬VOICE 2021開發者大會 轉至虛擬數位平台舉行
  相關文章
» 擷取關鍵數據 感測器全面佈署工業與車用領域
» 用於能源管理應用的NFC
» 打造垂直貫穿OT、IT層的AIoT智能工廠
» Microchip用於電機控制發展的開源工具:開源建模、程式碼生成和即時調試工具
» 深究Subaru汽車Eyesight駕駛輔助平台之開發
  相關資源
» Power Management Solutions for Altera FPGAs

AD

刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw