個人運算即將進入全新的世代,從現在起我們將不再追求更強大的多工效能,人與設備之間也不再是指令的輸入輸出的單向互動。電腦與人們將是協作的夥伴,追求的是更快、更有效率的一同完成任務,它需要有點聰明(smart),能夠學習資料,預判用戶的行為,並給予符合使用情境的必要協助,對使用者來說它是這樣的一台PC,我們稱它為:AI PC。
AI PC的硬體架構與定義
但在硬體架構上,它就沒這麼浪漫,它是有著實實在在要解決的目標課題,首先,就是應對生成式AI應用的需求,特別是提高在本地端(local)的運作效率,尤其針對以下這幾個因素:
‧ 降低延遲:傳統的 AI 應用往往依賴雲端伺服器進行計算,這會導致回應時間延遲。AI PC 將部分 AI 運算任務轉移到本地裝置,可以大幅降低延遲,提升使用者體驗。
‧ 保護隱私:將敏感資料保留在本地裝置上進行處理,可以更好地保護使用者隱私,減少資料洩露的風險。
‧ 減少網路依賴:在網路連線不穩定或受限的情況下,AI PC 仍能提供部分 AI 功能,保證使用者的工作效率。
因為如此,傳統的PC運算架構就必須做出改變,來因應以資料分析為主的AI程式,而最主要的變革,便是加入AI晶片的角色,在傳統運算之外,多一個加速運行神經網路的核心(NPU)。
不過到目前為止,產業間並未有AI PC的規範,也就是不存在AI PC的定義,沒有具體的標準指出需要包含什麼樣的定義規格,才能稱作是AI PC,僅僅只是供應商自行宣稱的產品功能。
儘管如此,針對AI應用的算力仍被視為是一個基本的評估條件,因此業界也普遍認可微軟對於AI PC所做出的算力定,即NPU(神經網路處理器)算力需達到40 TOPS(每秒兆次操作)。但這其實是因為微軟的Copilot等AI應用對算力有較高要求,40 TOPS是能夠流暢運行這些應用的基礎。
因此,40 TOPS可以視為目前AI PC的入門門檻,但隨著技術的進步,未來AI PC的算力標準可能會有所提高。而隨著AI技術的發展和應用場景的擴大,未來AI PC的算力需求可能會進一步提升。例如,運行更複雜的AI模型、處理更高解析度的影像等,都需要更強大的算力支持。
目標市場廣泛 AI PC適用各行各業
AI PC 的應用場景非常廣泛,可以涵蓋生活的各個方面,包含內容創作、商務處理、娛樂體驗、智能家居、教育、醫療、以及各種工商業的應用。
以內容創作為例,AI 可以協助生成文章、文案、劇本等,也可以進行圖像去噪、修復、風格轉換,或者生成逼真的圖像。目前 AI甚至可以協助影片剪輯、特效製作、字幕生成,並且自動生成影片摘要。AI 可以協助作曲、編曲、混音,或者根據用戶輸入的文字來生成音樂。
而在商務應用上,AI客戶服務是目前正在積極發展的項目,可以提供解答用戶問題,甚至自動處理訂單。在會議方面,AI 可以自動記錄會議內容,生成會議摘要,翻譯多種語言。AI也可以協助文件摘要、分類,甚至自動生成報告。AI擅長的資料分析,則可以提供決策參考。
在醫療照護方面,AI PC可以協助醫生分析醫學影像,提高診斷準確性,可以根據患者數據預測疾病風險,提前干預,也可以提供個性化的健康管理建議,幫助用戶保持健康。
除此之外,AI 可以用於商業的投資風險評估、欺詐檢測、投資建議等。在農業上可以用於農作物監測、病蟲害防治、產量預測等;在工業上可以用於生產線優化、品質檢測、故障預測等。
隨著 AI 技術的不斷發展,AI PC 的應用場景將會不斷擴展,為生活帶來更多便利和創新。
AI PC市場仍在起步階段 2027成為主流
現階段AI PC市場仍處於起步階段,但成長潛力龐大。IDC(國際數據資訊)就對 AI PC 的發展非常樂觀,認為 AI PC 將成為 PC 市場的未來趨勢,並預測其出貨量將在未來幾年內大幅成長。IDC指出,至2027 年,AI PC 將佔據全球所有 PC 出貨量的近 60%,意味著 AI PC 將從小眾市場走向主流,成為消費者和企業用戶的首選。
IDC 更預測,AI PC 的出貨量將從 2024 年的近 5,000 萬台,成長到 2027 年的 1.67 億台,顯示出市場對 AI PC 的強勁需求。IDC也 認為,AI PC 將為消費者和企業帶來更多價值,例如提升生產力、改善用戶體驗、創造新的應用場景等。
此外,IDC 也建議 PC 廠商應積極布局 AI PC 市場,開發更多搭載 AI 加速器的產品,並與軟體開發者合作,提供更豐富的 AI 應用。同時軟體開發者應開發更多針對 AI PC 優化的應用,充分利用 AI PC 的高算力,為用戶帶來更好的體驗。
圖一 : 宏碁攜手微軟與高通,推出一款Swift 14 AI筆記型電腦,搭Snapdragon X平台,為目前市場算力最高的AI PC。(source:acer) |
|
NPU成處理器標配 Arm陣營加入戰局
在關鍵零組件方面,則以處理器供應莫屬,而最主要的供應商便是英特爾(intel),他們推出了一款Intel Core Ultra 處理器後,便聲稱PC將進入AI PC的年代,並攜手PC製造商,包含宏碁、華碩、微星和聯想等,共同打造新興的AI PC產品。
Intel Core Ultra是專為 AI PC所 設計的處理器,最大的特色是內建專門的 AI 加速引擎,能夠大幅提升 AI 任務的處理速度。根據Intel 的資料,這個AI 加速單元,可以提升自然語言處理、圖像處理、影音編輯等AI軟體的運作速度,且相較於傳統的架構,可加快高達 70% 的生成式 AI 效能,以達成更快速的影像生成與更流暢的語音辨識。
此外,Intel Core Ultra也導入新的3D 效能混合式架構,結合效能核心(P-core) 和效率核心(E-core),以兼顧能源效率,延長電腦的電池續航力.並內建 Intel Arc GPU,提供額外的圖形處理能力,因應用戶在遊戲、內容創作和影音娛樂方面的需求。
而回應競爭對手的布局,AMD 也針對AI PC推出了專屬的處理器晶片-「Ryzen 7040 系列」, 這款處理器同樣是加入了AI加速晶片的架構「Ryzen AI 引擎」,用以提升 AI 程式的處理速度和效率。除此之外,AMD也在其繪圖晶片(GPU)上的 RDNA 3 架構 GPU 內建了 AI 加速單元,能夠加速影像處理、視訊編碼等 AI 任務。
值得注意的是,也由於傳統PC運算架構的打破,這也讓其他領域的處理器方案供應商有了進軍PC市場的契機,其中最主要的就是高通(Qualcomm)為首的Arm陣營。
高通在 AI PC 領域的解決方案主要圍繞其 Snapdragon 處理器平台,透過整合CPU、GPU與NPU,以及其他的軟硬體,為 AI 應用提供高效能、低功耗的解決方案。近期他們推出了Snapdragon X Elite的旗艦級行動運算平台,就是一款專門針對高階筆電所設計的方案。尤其是他們的AI 引擎(NPU),最高算力可達45 TOPS,已能因應絕大多數的常規AI運算需求。
表一:Intel、AMD、高通的AI PC方案比較表
項目
|
Intel
|
AMD
|
高通
|
處理器
|
Intel Core Ultra
|
Ryzen 7040 系列
|
Snapdragon
|
AI 加速
|
Intel AI Boost
|
Ryzen AI 引擎
|
Qualcomm AI 引擎
|
GPU
|
Intel Arc
|
RDNA 3
|
Adreno
|
CPU
|
混合式架構 (P-core + E-core)
|
Zen 4
|
Kryo (Armv9)
|
製程
|
Intel 4
|
台積電 4nm
|
台積電 4nm
|
優勢
|
CPU 性能強大、生態系統完善
|
GPU 性能強大、開放性高
|
低功耗、5G 連接、AI 引擎效率高
|
劣勢
|
GPU 性能相對較弱
|
生態系統相對較小
|
CPU 性能相對較弱
|
DDR5滲透率急升 容量與速度成指標
除了處理器業者陸續加入AI PC的戰局之外,與運算息息相關的記憶體業者,也跟著掀起新的戰雲。一方面要跟上處理器和加速晶片的運算速度,另一方面也要滿足AI運算對於容量有著更高的需求。因此包含DRAM和NAND Flash都需要大幅提升容量,或者有業者推出AI專用的記憶體,如美光GDDR7、三星HBM3E等,目的都是要提升AI系統效能。
圖二 : DDR5 於 2021 年便首次亮相,但經過四年才漸受重視。(source:kingston) |
|
在PC端,最明顯的DDR5的大量導入。一般認為,DDR5應該能夠在1~2年前就開始陸續普及,但由於價格以及缺乏明顯的應用誘因,導致其延遲了進入市場的時間,讓DDR4長時間佔據主流市場的位置。
隨著Intel和AMD的AI PC處理器平台開始全面支持DDR5,讓DDR5在AI PC中的滲透率快速提升,預計2024年底將達到50%。DDR5相較DDR4,不只頻寬翻倍,同時容量更提升4倍,可以滿足AI運算對高容量、高頻寬記憶體的需求。另一方面,新興的低功耗DDR5也開始興起,以延長AI PC的電池續航。
值得注意的是,由於DDR5和LPDDR5在AI PC應用中快速成長,這也刺激了新一代記憶體技術的誕生,一種新的記憶體規格「LPCAMM2 (低功耗壓縮附加記憶體模組)」就開始展露頭角,它結合了DDR5和LPDDR5各自的優點,能同時提供高效能與低功耗的特性。
圖三 : LPCAMM2記憶體模組適用於輕薄裝置,能更省電、效率更高。(source:美光) |
|
結語
總結來說,AI PC的發展十分樂觀,除了可以引領PC產業再迎新一波的成長外,同時也將會帶動軟體產業有新的發展,並衍生出更多的創新應用與新興的商機。而隨著PC市場的翻轉,與之相關的硬體和關鍵零組件也會有新的成長契機,尤其是處理晶片、記憶體,或者其他PC平台的周邊裝置。
就如同宏碁(Acer)董事長陳俊聖的看法一樣,AI PC早期應用主要在商用領域,但隨著消費者對AI認知的提升,消費市場需求也在增加。然而AI PC的普及需要軟硬體共同發展,在處理器、記憶體和作業系統等技術的進步,AI PC應用將更加豐富,並成為未來PC產業的重要趨勢。