帳號:
密碼:
最新動態
產業快訊
CTIMES / 文章 /
70美元為第五代樹莓派添加AI套件
 

【作者: 陸向陽】   2024年06月28日 星期五

瀏覽人次:【790】


圖一 : 樹莓派AI套件的硬體為一個PCIe對M.2介面的轉接器及一張M.2介面的模組子卡(圖片來源:樹莓派官網)
圖一 : 樹莓派AI套件的硬體為一個PCIe對M.2介面的轉接器及一張M.2介面的模組子卡(圖片來源:樹莓派官網)

第五代樹莓派(RPi 5)有個特點,那就是具備PCI Express(PCIe)2.0介面,不過樹莓派基金會在設計RPi 5時希望維持電路板的嬌小特點,沒有使用一般電腦上已普遍使用的標準PCIe插槽,而是改用一個專屬連接器,透過該連接器再行轉接。


70美元的AI套件

一般認為該PCIe介面會用來連接固態硬碟,畢竟RPi 5效能大幅提升,持續使用microSD記憶卡當硬碟實在委屈,不過既然是PCIe介面就有各種連接可能,而近期(英國時間6月4日)基金會就發表了一個70美元的人工智慧(AI)套件,該套件附有一個轉接器,將RPi 5特有PCIe連接器轉成M.2介面,這稱之為Raspberry Pi M.2 HAT+(註1),然後再與M.2介面的AI推論加速模組子卡連接,讓RPi 5系統獲得AI推論的硬體加速能力。


註1:Raspberry Pi M.2 HAT+也有單獨出售,筆者查詢了美國DigiKey約12美元,主要設想還是用來連接M.2介面固態硬碟。


AI套件的重點是在模組子卡,該子卡上有一顆以色列新創公司Hailo的AI推論硬體加速晶片Hailo-8L,實際上是該公司過去Hailo-8晶片的降規版,Hailo-8的推論效率約為26TOPS(8位元整數精度而言),而Hailo-8L則降至13TOPS,晶片功耗也從2.5瓦降到1.5瓦。



圖二 : 模組子卡上主要是一顆以色列Hailo公司的Hailo-8L推論加速晶片(圖片來源:樹莓派官網)
圖二 : 模組子卡上主要是一顆以色列Hailo公司的Hailo-8L推論加速晶片(圖片來源:樹莓派官網)

為何會有降規版晶片?對此筆者只能推測,有可能是客戶反應有些AI推論應用不需要到26TOPS那麼高的效能,如此何不推出一個更平價、更省電的版本給客戶?或者可能晶片生產上有若干良率問題,若僅少部份電路壞損就讓整顆晶片報廢也有些可惜,在主功能無大礙下是可以改訴求低規、低價版。


除了Hailo-8、Hailo-8L外,Hailo公司也有Hailo-8R晶片、針對AI視覺應用特別強化的Hailo-15晶片,甚至針對生成式AI應用而推出Hailo-10H晶片。


雖然是用以色列晶片,但這是基金會官方自己推行的AI硬體套件,並且標榜無論是不是使用基金會官方的攝影機AI套件都可以支援運作,一顆Hailo-8L晶片在一個攝影機下同時支援多個視覺影像模型的推論,或者是兩個攝影機下同時支援一個模型或多個模型的推論。



圖三 : 先搭裝上轉接器,而後在轉接器上安裝模組子卡(圖片來源:樹莓派官網)
圖三 : 先搭裝上轉接器,而後在轉接器上安裝模組子卡(圖片來源:樹莓派官網)

除了硬體晶片外套件裡另一個重點是軟體,Hailo公司隨Hailo-8L晶片提供豐富的預訓練模型可供運用,一堆預訓練模型的集合也稱為模型動物園(Model Zoo);同時基金會官方也針對攝影機應用提供rpicam-apps suite的軟體套餐,裡頭有即時攝影機推論的後處理範本(post-processing template)可用;或者也有Hailo公司的TAPPAS的後處理函式庫可用。有了這些只要再行撰寫幾百行C++程式碼就可以實現一個AI電腦視覺應用,而這些軟體整合很快也會套用到樹莓派官方的Picamera2上。


不僅是rpicam-apps或Picamera2,AI套件也能用在其他框架上,如GStreamer框架,或者供Python、C++撰寫成的應用程式以API呼叫方式取用。另外上述這些軟體的安裝也很方便,使用Debian Linux常見的應用程式套件(package)安裝方式即可,即是用apt下達命令列安裝,安裝完重新啟動RPi 5便可使用。



圖四 : Hailo公司針對其晶片提供完整的軟體支援,如Hailo模型動物園、TAPPAS範例應用程式,另外也包含編譯器、執行階段的軟體等(圖片來源:Hailo官網)
圖四 : Hailo公司針對其晶片提供完整的軟體支援,如Hailo模型動物園、TAPPAS範例應用程式,另外也包含編譯器、執行階段的軟體等(圖片來源:Hailo官網)

小結

最後,不知道基金會是只推行一款硬體AI套件,還是未來會廣泛推出不同晶片商的套件,畢竟現在Edge AI的推論晶片相當多廠商投入。但也可能怕創客眼花撩亂、選擇無力,短期內只讓創客用戶熟悉一款軟硬體,而集中心力推Hailo方案。


無論基金會態度如何,既然在官方已如此示範,估計會有許多協力商推出類似方案,一樣透過M.2介面介接加速晶片,且讓我們拭目以待。


[延伸閱讀]

https://www.raspberrypi.com/documentation/accessories/ai-kit.html#getting-started


樹莓派AI套件的起步說明(英文)


https://www.youtube.com/watch?v=m0O1r1ijFjk


https://www.youtube.com/watch?v=-huMW13Fp7U


樹莓派AI套件應用:物體識別


https://www.youtube.com/watch?v=xL013eHuSeI


樹莓派AI套件應用:人體姿態推估


https://www.youtube.com/watch?v=2xOogME0Ah4


樹莓派AI套件應用:畫面主體細分


(本文由VMAKER授權轉載;連結原文網址


相關文章
突破侷限!三款多核心微控器同時支援 Arduino與MicroPython
視覺化 Raspberry Pi 數據:輕鬆用 Arduino Cloud 掌握物聯網裝置
一美元的TinyML感測器開發板
樹莓派推出AI攝影機、新款顯示器
Blues推一年免費衛星通訊的Starnote IIoT模組
comments powered by Disqus
相關討論
  相關新聞
» 報告:2024年軟體漏洞評級見五大趨勢
» AWS研究:掌握AI將提高台灣員工薪酬39%
» 研華攜手滿拓科技、群聯 舉辦Edge AI工程師實戰營
» 智齡科技募資達6.2億 ITIC、台日基金領投B輪
» AWS推出生成式AI服務 協助開發者快速打造應用程式


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.44.192.94.177
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw