搜尋

會員登入

搜尋

導覽

會員
廣告
廣告

AI推論擴大QLC需求 eSSD躍升資料中心核心元件

瀏覽次數:24

AI基礎建設的記憶體需求正由高頻寬記憶體(HBM)、雙重數據速率(DDR)進一步延伸至企業級儲存 SSD。TrendForce最新調查指出,美系雲端服務商近期持續上調企業級SSD需求,第四季訂單可望超越第三季高點;供應商也開始把更多NAND產能轉向企業級SSD,目前eSSD交期約16週,明顯高於供需平衡時約8週。

代理式AI對於儲存需求增加,Enterprise SSD成為算力新瓶頸。
代理式AI對於儲存需求增加,Enterprise SSD成為算力新瓶頸。

需求結構改變的關鍵是代理式AI(Agentic AI)。傳統大型語言模型主要執行提示、推理與回應,但AI代理會反覆進行規劃、資料檢索、工具呼叫及記憶擷取,必須頻繁存取向量資料庫與大量非結構化資料,使儲存從模型資料保存設備逐步轉變為推論運算路徑的一環。

其中,QLC Enterprise SSD因單位容量成本較低,開始擴大應用於向量資料庫。中國AI架構也正在探索KV快取卸載,把原本存放於DRAM的部分快取資料卸載至大容量高速SSD,在成本、記憶體容量與推論效率間取得平衡。TrendForce認為,代理式AI普及將進一步提高QLC eSSD在北美雲端與資料中心的滲透率。

這也改變AI伺服器的記憶體階層。未來可能形成HBM負責加速器高速資料交換、DDR承接系統主記憶體與部分KV Cache,再由Enterprise SSD支援模型、向量資料庫及Cache Offload的多層架構。儲存效能不能只看容量,也必須評估延遲、IOPS、控制器及PCIe頻寬。

供應鏈可以掌握的AI儲存商機,在於由NAND Wafer向QLC/TLC、Enterprise SSD控制器、PCIe介面與伺服器儲存架構延伸。eSSD未必複製HBM的產品結構,但隨著AI由訓練轉向大規模推論,儲存元件正快速成為限制AI叢集效率與容量擴張的另一項關鍵。

稀土棋局下的台灣解方:從供應鏈韌性看關鍵礦物合作新契機
特別企劃半導體

稀土棋局下的台灣解方:從供應鏈韌性看關鍵礦物合作新契機

稀土與關鍵礦物已成全球科技競爭與經濟安全的重要戰略資源。面對供應鏈高度集中與地緣風險升高,台灣如何透過國際合作、技術替代、戰略儲備與城市採礦,建立自主且具韌性的關鍵礦物供應體系?

稀土與關鍵礦物已成全球科技競爭與經濟安全的重要戰略資源。面對供應鏈高度集中與地緣風險升高,台灣如何透過國際合作、技術替代、戰略儲備與城市採礦,建立自主且具韌性的關鍵礦物供應體系?