搜尋

會員登入

搜尋

導覽

會員

生成式AI當道 GPU算力爭霸方興未艾

瀏覽次數:4193

生成式AI驅動的模型規模與複雜度急遽上升,正迫使晶片架構以遠超摩爾定律的速度進化。在這場硬體競賽中,NVIDIA、AMD、Google等科技巨頭紛紛推出「算力核彈級」晶片,並在效能、功耗與生態系三大戰場上展開正面交鋒。


2023年,ChatGPT在短短五天內突破億級用戶,徹底改寫科技與應用場景的版圖。背後支撐其運行的GPT-4模型,不僅需動用約1.7萬顆GPU,耗電量更高達50GWh,相當於3.6萬戶家庭全年的用電需求。而最新的Sora影片生成模型,其單次訓練成本更被傳已突破5億美元,堪稱「算力黑洞」的代表。



圖一 : ChatGPT需耗用大量的GPU運算資源。
圖一 : ChatGPT需耗用大量的GPU運算資源。

生成式AI驅動的模型規模與複雜度急遽上升,正迫使晶片架構以遠超摩爾定律的速度進化。在這場硬體競賽中,NVIDIA、AMD、Google等科技巨頭紛紛推出「算力核彈級」晶片,並在效能、功耗與生態系三大戰場上展開正面交鋒。OpenAI執行長Sam Altman更喊出募資7兆美元自建晶片廠,預示這場競賽不僅將改寫AI產業的格局,更可能重塑整個半導體生態。
...
...

使用者別 新聞閱讀限制 文章閱讀限制 出版品優惠
一般使用者 10則/每30天 0則/每30天 付費下載
VIP會員 無限制 25則/每30天 付費下載

Card Image

Microchip數位液位偵測技術,不只能偵測液位

液位偵測(Level Sensing)是現代工業與生活應用中至關重要的一環 。Microchip提出的數位液位偵測(Digital Level Sensing)方案,不僅能精準偵測液位;透過應用優化後,還能擴展至固體物…

液位偵測(Level Sensing)是現代工業與生活應用中至關重要的一環 。M…