搜尋

會員登入

搜尋

導覽

會員

生成式AI當道 GPU算力爭霸方興未艾

瀏覽次數:5040

生成式AI驅動的模型規模與複雜度急遽上升,正迫使晶片架構以遠超摩爾定律的速度進化。在這場硬體競賽中,NVIDIA、AMD、Google等科技巨頭紛紛推出「算力核彈級」晶片,並在效能、功耗與生態系三大戰場上展開正面交鋒。


2023年,ChatGPT在短短五天內突破億級用戶,徹底改寫科技與應用場景的版圖。背後支撐其運行的GPT-4模型,不僅需動用約1.7萬顆GPU,耗電量更高達50GWh,相當於3.6萬戶家庭全年的用電需求。而最新的Sora影片生成模型,其單次訓練成本更被傳已突破5億美元,堪稱「算力黑洞」的代表。



圖一 : ChatGPT需耗用大量的GPU運算資源。
圖一 : ChatGPT需耗用大量的GPU運算資源。

生成式AI驅動的模型規模與複雜度急遽上升,正迫使晶片架構以遠超摩爾定律的速度進化。在這場硬體競賽中,NVIDIA、AMD、Google等科技巨頭紛紛推出「算力核彈級」晶片,並在效能、功耗與生態系三大戰場上展開正面交鋒。OpenAI執行長Sam Altman更喊出募資7兆美元自建晶片廠,預示這場競賽不僅將改寫AI產業的格局,更可能重塑整個半導體生態。
...
...

使用者別 新聞閱讀限制 文章閱讀限制 出版品優惠
一般使用者 10則/每30天 0則/每30天 付費下載
VIP會員 無限制 25則/每30天 付費下載

Card Image

下一代的連接技術——PolarFire FPGA的乙太網路感測器橋接器解決方案

PolarFire® FPGA乙太網路感測器橋接器是一個專為加速在邊緣AI應用中使用 NVIDIA® Jetson™ AGX Orin™和IGX Orin開發平台而設計的感測器橋接平台。這一平台建立在低功耗的PolarFire FPGA架構之上…

PolarFire® FPGA乙太網路感測器橋接器是一個專為加速在邊緣AI應用…