人工智慧(AI)技術在快速發展中展現出顛覆性的潛力,但其大規模應用也帶來了一系列環境挑戰。意法半導體類比、電源、MEMS和感測器事業群副總裁暨MEMS子產品事業群總經理Simone Ferri深入探討了這些挑戰,並指出邊緣AI技術的解決方案,尤其是MEMS感測器在其中的貢獻。
Simone Ferri從人類與機器的耗能對比開始談起。人類大腦每秒能執行約10的11次方浮點運算,卻僅需20瓦的能量,而同樣運算能力的高效能超級電腦則需22.8MW。這百萬倍的電量差距突顯出高耗能的阻礙,成為AI技術普及應用的重要課題。此外,AI技術的環境影響也不容忽視。每年訓練Bloom和GPT-3等大型語言模型所產生的二氧化碳排放,分別達到25噸和500噸,遠超於人類平均的5.5噸碳排放。
更具體的例子是,訓練Bloom所需的433MW電力,等同於一個美國家庭40年的用電量。這些數據強調,AI技術的能耗問題已成為實現永續發展的關鍵挑戰。
這也引出另一個問題:AI技術如何能真正普及?目前的AI技術主要依賴專業人士,但如果要讓它成為更廣泛的解決方案,技術門檻必須降低,讓更多人能夠輕鬆使用。Ferri認為AI的兩大挑戰在於耗能及部署的便利性,這兩者直接影響了AI的普及速度。
在思索解決方案時,Ferri從大自然中找到了靈感——章魚的分散式神經系統。章魚的神經元分佈在觸角中,能就近處理和響應環境變化,無需依賴中央大腦的指令。這一模式即為邊緣AI的精髓:數據在源頭即時處理,減少複雜的數據傳輸需求,同時降低能耗。章魚的例子體現了智能分佈的優勢,它既能適應環境變化,也能自主改變形態。
透過這種自然啟發,Ferri闡明了理想的感測器設計應該具備的三個特性:智慧、開放與準確。首先,「智慧」意味著感測器能在邊緣即時處理數據,使其成為電子世界和物理世界的交界。其次,感測器應當是「開放」的,能依據不同需求靈活配置,讓使用者可以方便地客製化其應用。最後,「準確」是指感測器根據實際情況提供合適的數據,而非一味追求高階數據,以免造成能量浪費。
為了實現這些目標,STMicroelectronics專注於「適用性配置」的技術發展。此概念致力於根據不同場景,為感測器定製合適的數據需求,以實現能源效率的最大化。
Simone Ferri的觀點展示了AI技術在永續性和普及性之間的平衡之道。通過邊緣AI和MEMS感測器,STMicroelectronics正在積極探尋解決高耗能挑戰的方案,為AI技術的長遠發展奠定基礎。
「智慧的核心在於將AI智慧帶到邊緣,」Ferri解釋道,傳統感測器會將原始數據傳送到中央處理器進行分析,不僅消耗大量電力,還可能帶來延遲和過多的數據流量。而智慧感測技術可將數據分析前移到感測器自身,從而有效降低數據傳輸需求,並達成能源優化。
「我們的機器學習核心與智慧感測處理單元(ISPU)是實現這一目標的兩大關鍵技術,」他說道。ST的機器學習核心是一種針對動作數據分析的專業AI引擎,且具備靈活的多模型處理能力。而ISPU則將數位訊號處理器(DSP)直接嵌入感測器內,讓智慧感測器能夠自行完成數據處理,這樣不僅避免依賴獨立ASIC或系統封裝,還能透過C語言進行程式開發,大大提升開發效率。
「讓AI技術人人可用是ST的目標之一,」Ferri強調。這樣的開放策略涵蓋三類專業人士:嵌入式軟體工程師、數據科學家和硬體工程師。ST的ST Edge AI套件便是為了支援這些多樣化需求所打造,無論是MPU、MCU,或智慧感測器,都能透過這套工具開發出高效的AI應用。「我們希望這些專家能夠透過ST Edge AI無縫整合智慧感測技術,推動技術應用的全面普及。」
談到精準,Ferri流露出明顯的興奮,他介紹了ST的適用性配置引擎,能夠根據不同場景動態調整感測器的參數。這種配置能力確保智慧感測器能夠隨時應對不同環境需求。
例如,當加速度計偵測到感測器處於靜止狀態時,便自動切換至低功耗模式;而偵測到動作時,則依照動作的特性調整配置以確保高效能運行。「這就像章魚根據環境變化調整姿態一樣,讓智慧感測器能在降低能源消耗的同時保持高度敏感。」
智慧感測技術的應用範疇之廣令人驚嘆。以筆記型電腦為例,ST的感測技術能識別電腦是否位於包內,並讓應用處理器進入待機模式,避免電力浪費。而在汽車領域,低功耗感測器則可監控車身環境,自主管理電力分配,避免無謂耗電。
風力發電則是另一個成功應用。Ferri表示,「智慧感測器能監控風力發電機的機艙狀態和葉片運作,從而優化發電效率。」ST智慧感測器的出色表現正逐步改變各行各業的運作模式。
當談到未來,Ferri認為智慧感測器的發展方向將從「物」擴展到「人」。意法半導體計畫開發以人為本的生物感測器,讓使用者在本地即時獲得健康數據。「未來的智慧貼片能夠監控心電圖、肌電圖等生理訊號,並直接提供反饋,」Ferri表示,這樣將減少數據雲端處理需求,提供更即時且有效的健康管理解決方案。
「隨著數以億計的感測節點開始分擔運算任務,邊緣AI技術將成為主流,」Ferri強調。「我們正推動邊緣AI技術的極限,以實現智慧、開放且精準的未來。」通過這一策略,意法半導體致力於打破AI普及的障礙,並為各行各業創造更高效、可持續的應用場景。