图一 : 树莓派AI套件的硬体为一个PCIe对M.2介面的转接器及一张M.2介面的模组子卡（图片来源：树莓派官网）

第五代树莓派（RPi 5）有个特点，那就是具备PCI Express（PCIe）2.0介面，不过树莓派基金会在设计RPi 5时希??维持电路板的娇小特点，没有使用一般电脑上已普遍使用的标准PCIe??槽，而是改用一个专属连接器，透过该连接器再行转接。

70美元的AI套件

一般认为该PCIe介面会用来连接固态硬碟，毕竟RPi 5效能大幅提升，持续使用microSD记忆卡当硬碟实在委屈，不过既然是PCIe介面就有各种连接可能，而近期（英国时间6月4日）基金会就发表了一个70美元的人工智慧（AI）套件，该套件附有一个转接器，将RPi 5特有PCIe连接器转成M.2介面，这称之为Raspberry Pi M.2 HAT+（注1），然後再与M.2介面的AI推论加速模组子卡连接，让RPi 5系统获得AI推论的硬体加速能力。

注1：Raspberry Pi M.2 HAT+也有单独出售，笔者查询了美国DigiKey约12美元，主要设想还是用来连接M.2介面固态硬碟。

AI套件的重点是在模组子卡，该子卡上有一颗以色列新创公司Hailo的AI推论硬体加速晶片Hailo-8L，实际上是该公司过去Hailo-8晶片的降规版，Hailo-8的推论效率约为26TOPS（8位元整数精度而言），而Hailo-8L则降至13TOPS，晶片功耗也从2.5瓦降到1.5瓦。

图二 : 模组子卡上主要是一颗以色列Hailo公司的Hailo-8L推论加速晶片（图片来源：树莓派官网）

为何会有降规版晶片？对此笔者只能推测，有可能是客户反应有些AI推论应用不需要到26TOPS那麽高的效能，如此何不推出一个更平价、更省电的版本给客户？或者可能晶片生产上有若干良率问题，若仅少部份电路坏损就让整颗晶片报废也有些可惜，在主功能无大碍下是可以改诉求低规、低价版。

除了Hailo-8、Hailo-8L外，Hailo公司也有Hailo-8R晶片、针对AI视觉应用特别强化的Hailo-15晶片，甚至针对生成式AI应用而推出Hailo-10H晶片。

虽然是用以色列晶片，但这是基金会官方自己推行的AI硬体套件，并且标榜无论是不是使用基金会官方的摄影机AI套件都可以支援运作，一颗Hailo-8L晶片在一个摄影机下同时支援多个视觉影像模型的推论，或者是两个摄影机下同时支援一个模型或多个模型的推论。

图三 : 先搭装上转接器，而後在转接器上安装模组子卡（图片来源：树莓派官网）

除了硬体晶片外套件里另一个重点是软体，Hailo公司随Hailo-8L晶片提供丰富的预训练模型可供运用，一堆预训练模型的集合也称为模型动物园（Model Zoo）；同时基金会官方也针对摄影机应用提供rpicam-apps suite的软体套餐，里头有即时摄影机推论的後处理范本（post-processing template）可用；或者也有Hailo公司的TAPPAS的後处理函式库可用。有了这些只要再行撰写几百行C++程式码就可以实现一个AI电脑视觉应用，而这些软体整合很快也会套用到树莓派官方的Picamera2上。

不仅是rpicam-apps或Picamera2，AI套件也能用在其他框架上，如GStreamer框架，或者供Python、C++撰写成的应用程式以API呼叫方式取用。另外上述这些软体的安装也很方便，使用Debian Linux常见的应用程式套件（package）安装方式即可，即是用apt下达命令列安装，安装完重新启动RPi 5便可使用。

图四 : Hailo公司针对其晶片提供完整的软体支援，如Hailo模型动物园、TAPPAS范例应用程式，另外也包含编译器、执行阶段的软体等（图片来源：Hailo官网）

小结

最後，不知道基金会是只推行一款硬体AI套件，还是未来会广泛推出不同晶片商的套件，毕竟现在Edge AI的推论晶片相当多厂商投入。但也可能怕创客眼花撩乱、选择无力，短期内只让创客用户熟悉一款软硬体，而集中心力推Hailo方案。

无论基金会态度如何，既然在官方已如此示范，估计会有许多协力商推出类似方案，一样透过M.2介面介接加速晶片，且让我们拭目以待。

[延伸阅读]

https://www.raspberrypi.com/documentation/accessories/ai-kit.html#getting-started

树莓派AI套件的起步说明（英文）

https://www.youtube.com/watch?v=m0O1r1ijFjk

https://www.youtube.com/watch?v=-huMW13Fp7U

树莓派AI套件应用：物体识别

https://www.youtube.com/watch?v=xL013eHuSeI

树莓派AI套件应用：人体姿态推估

https://www.youtube.com/watch?v=2xOogME0Ah4

树莓派AI套件应用：画面主体细分

（本文由VMAKER授权转载；连结原文网址）