搜尋

會員登入

搜尋

導覽

會員

微軟發布Maia 200晶片啟動AI硬體主權戰

瀏覽次數:1735

Microsoft正式發表第二代AI加速器Maia 200。這款採用台積電3奈米製程的晶片擁有超過1,400億個電晶體,在FP4精度下可提供10+ peta FLOPS的運算能力。除了硬體規格亮眼,微軟更與OpenAI共同開發的軟體工具鏈。


圖一
圖一

微軟官方數據指出,其FP4性能是Amazon Trainium 3的三倍,並在FP8表現上優於Google TPU v7。對企業用戶而言,Maia 200相比現有硬體能提供高達30%的每美元性能提升。目前該晶片已在愛荷華州數據中心上線,隨後將擴展至亞利桑那州。


針對大規模語言模型(LLM)的數據吞吐需求,Maia 200優化了記憶體子系統。晶片配置216GB的HBM3e記憶體,傳輸頻寬達7 TB/s,並搭載272MB的內建SRAM。這種強化內建記憶體的設計策略與Cerebras或Groq等一致,可極大化AI推理效率。
...
...

使用者別 新聞閱讀限制 文章閱讀限制 出版品優惠
一般使用者 10則/每30天 0則/每30天 付費下載
VIP會員 無限制 25則/每30天 付費下載

Card Image

定義兆瓦級AI工廠 英飛凌以固態電力技術 驅動直流微電網革命

在代理式AI發展如火如荼的新時代,全球對算力的需求正以倍速增加,這股力量也直接拉升了資料中心的能耗基準,傳統的電力架構已難以支撐未來的AI算力需求。 英飛凌(Infineon)…

在代理式AI發展如火如荼的新時代,全球對算力的需求正以倍速增加…