帳號:
密碼:
最新動態
產業快訊
CTIMES/SmartAuto / 產品 /
Mythic推首款類比型AI處理器 提升邊緣裝置低功耗效能
 

【CTIMES/SmartAuto 吳雅婷報導】   2021年01月23日 星期六

瀏覽人次:【2868】

未來是AI處理器的時代,這些智慧元件將媲美現在的CPU與影像處理器,晉升為最主流的邏輯元件。但要在邊緣環境實現智慧普及化,元件設計仍有成本與功耗的關鍵挑戰。美國AI處理器新創公司Mythic(Mythic, Inc.)鎖定邊緣運算市場對低功耗推論運算(inference processing)的龐大市場,藉由其獨特的類比型記憶體內運算(analog comput-in-memory)技術,推出首款類比矩陣運算處理器M1108 AMP(Analog Matrix Processor),不僅效能與功耗效率雙雙升級,推論效能可達35 TOPS,準確率更達到數位型元件等級。

Mythic類比矩陣運算處理器M1108 AMP,創新採用類比運算架構來開發AI處理器,實現35 TOPS的優異推論效能,且最高功耗僅4W,推升邊緣運算裝置量產的市場潛力。
Mythic類比矩陣運算處理器M1108 AMP,創新採用類比運算架構來開發AI處理器,實現35 TOPS的優異推論效能,且最高功耗僅4W,推升邊緣運算裝置量產的市場潛力。

談到邊緣運算裝置,常見的CPU、GPU、ASIC等邏輯元件,皆以數位運算架構設計,在特定領域(domain-specific)的深度學習應用,顯現了超於常人的智慧運算效能,然而,這些元件多半採用例如5nm的先進製程,還需要DRAM等外部記憶體,功耗與成本也很嚇人。

Mythic業務發展部門資深經理David Kuo指出:「類比運算架構在邊緣裝置上展現了可觀優勢,能夠利用Flash記憶體,設計出記憶體內運算元件,不僅解決了運算延遲的問題,製程成本也能降低許多。」

新款M1108 AMP處理器採用了獨特的元件架構,因此大幅減省執行複雜AI模型時的運算功耗,工作量達尖峰時功耗最高僅4W,還能善用技術成熟且具成本優勢的40nm製程技術,系統設計上,也不需要DRAM或SRAM等外部記憶體,因此,與採用數位運算架構的元件相比,整體成本最多降低了10倍。

拆解這套元件架構可以發現,M1108 AMP整合了108個AMP區塊(tile),每區塊都內建了Mythic類比運算引擎(Mythic Analog Compute Engine;Mythic ACE),還包含了快閃記憶體陣列、類比數位轉換器(ADC)、網路晶片(Network-on-chip;NoC)路由器、SRAM與SIMD向量運算引擎,另搭載一顆32位元的RISC-V處理器(nano-processor),在AI運算架構的整體功耗、成本與效能上完成最佳配置。

「所有推論工作都在Flash執行,」David Kuo解釋:「而我們的關鍵技術,在於利用Flash進行乘法運算(multiplying),最重要的是,我們在M1108晶片上設計了2萬7千多顆ADC,因此元件尺寸必須微縮到極小,這也是Mythic的IP技術所在。」

Mythic的研發成果,也確實令人為之一亮,M1108 AMP的元件尺寸僅360mm2,滿足邊緣裝置的尺寸高敏感型需求。在控制與介面上,M1108提供四通道PCIe 2.0介面,能以2GB/s的最高頻寬連接到系統主處理器,另外還支援I2C、SPI、UART與GPIO介面,提升邊緣裝置的開發彈性與可行性。

如此精巧尺寸與低功耗的設計,在運算上還能執行ResNet-50、YOLOv3、OpenPose Body25等複雜的AI模型,為新世代的邊緣運算裝置提供了量產的優化方案。

此外,為了簡化開發人員的設計流程,Mythic也提供類比元件設計的相關軟體工具,包含從優化神經網路的分層(layer)、轉換模型的浮點運算格式(由FP32轉至INT8),到重新訓練AI模型、圖像編譯(graph compilation),提供一系列的開發資源,協助將AI模型轉換至Mythic AMP的類比運算處理器上執行推論。

M1108 AMP系列產品目前提供PCIe M.2和PCIe卡的規格選項。目標應用涵蓋現在常見的邊緣運算裝置,例如監控攝影機、網路攝影機、智慧家庭電器、工業機器視覺設備,以及其他AI新興應用,例如輕量型無人機、AR/VR互動裝置,以及消費性與零售機器人等。

Mythic成立於2012年,聚焦類比運算架構,累積了豐富的相關開發技術與經驗,尤其針對類比型元件的生產難題,成功開發出相應的元件架構技術來提供一系列的解決方案。

關鍵字: 邊緣運算  人工智慧  低功耗 
相關產品
愛德萬測試發表V93000 EXA Scale SoC測試系統超高電流電源供應板卡
HIRO推動邊緣運算創新 探索智慧創新應用
英飛凌Edge Protect嵌入式安全方案 滿足消費和工業級物聯網應用要求
萊迪思以Lattice Drive解決方案拓展軟體產品 加速汽車應用開發
凌華科技全新無風扇嵌入式媒體播放機 可用於智慧零售解決方案
  相關新聞
» 應材於新加坡舉行節能運算高峰會 推廣先進封裝創新合作模式
» 生成式AI海嘯來襲 企業更需要AI雲端服務來實現創新與發展
» 研究:Android品牌多元化布局高階市場 本地化策略與技術創新將引領潮流
» AI走進田間 加拿大團隊開發新技術提升農食產業永續發展
» 以電漿科技回收鋼鐵業二氧化碳 比利時打造全球首例
  相關文章
» SiC MOSFET:意法半導體克服產業挑戰的顛覆性技術
» 意法半導體的邊緣AI永續發展策略:超越MEMS迎接真正挑戰
» 光通訊成長態勢明確 訊號完整性一測定江山
» 分眾顯示與其控制技術
» 新一代Microchip MCU韌體開發套件 : MCC Melody簡介

刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.18.119.143.45
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw