阿里巴巴集團CTO兼阿里雲智能總裁張建鋒，今日在杭州舉辦的第10屆雲棲技術大會上，發布了阿里巴巴第一款自行研發的AI推論晶片「含光800」。根據阿里巴巴的資料，該晶片每秒可以處理7萬8千多張圖片，是目前全球性能最高的AI推論晶片。

阿里巴巴第一款自行研發的AI推論晶片「含光800」

「含光800」是由阿里巴巴旗下的達摩院半導體晶片公司平頭哥所研發，該公司先前已推出了採RISC-V架構的晶片「玄鐵910」，以及一個SoC單晶片平臺「無劍」。

依據阿里巴巴的介紹，含光其實是一款神經網路處理晶片（Neural Processor Unit，NPU），至於他們所謂的AI推論晶片，則是用加速AI演算法的執行和訓練，而在阿里巴巴的應用情境，則是專對處理圖片的神經網路進行加速。

由於AI運算可分成兩個階段，一個是訓練階段，二是推論階段。前者是透過處理大量的資料和運算，取得一個AI運算模型，多運用CPU和GPU進行；後者則是一個程式的開發階段，而推論階段其實就是程式的執行階段。因此所謂的推論晶片，就是加速程式執行的晶片。

張建鋒在講演上指出，含光800以ResNet-50測試，最高可以達78563IPS（Images per second），等於每秒可處理7萬8千多張圖片，功耗比可提供500IPS/W。

張建鋒也以旗下的購物圖片搜索App「拍立淘」為例，拍立淘每天會產生10億張圖片，過去需花費1小時來處理識別和分類。改用含光800後，只要5分鐘就能完成相同的工作。

至於為何取名含光，阿里巴巴的解釋是，「含光」以中國傳說的上古三大神劍之一來命名，取它「含而不露，光而不耀」的含意。