搜尋

會員登入

搜尋

導覽

會員

美光:3D NAND技術可滿足高階AI推論需求

瀏覽次數:24305

隨著AI技術快速演進,資料中心儲存系統的需求正進入前所未見的高峰。從大型語言模型(LLM)訓練到即時推論應用,海量資料的生成、處理與存取對儲存基礎架構提出前所未有的挑戰。


首先,AI應用特別是在推論階段,對高吞吐量與低延遲的依賴極為強烈。企業級AI代理應用、延伸上下文視窗以及RAG(Retrieval-Augmented Generation)流程,都仰賴即時且穩定的資料存取能力,這意味著傳統儲存架構已難以支撐這類工作負載的高密度存取模式。


其次,隨著AI訓練模型不斷膨脹,儲存設備必須能承載更大的資料湖與向量資料庫。這不僅牽涉容量的擴展,更須兼顧設備佔用空間與能源使用效率,以控制整體總擁有成本(TCO)。


最後,永續發展成為不可忽視的目標。儲存系統佔據資料中心總能耗的比例日益上升,如何在效能提升的同時減少碳排放,是產業必須正面迎戰的議題。


為因應上述挑戰,美光以其第九代3D NAND技術(G9 NAND)為核心,推出三款專為AI資料中心打造的SSD。其中包括首款支援PCIe Gen6的9650 SSD。該產品提供高達28 GB/s的連續讀取效能,以及550萬IOPS的隨機讀取效能,可滿足高階AI推論系統需求所設計。另一項技術突破來自6600 ION SSD,其單顆儲存容量最高達245TB,可在僅1U的機架空間內實現2.4PB的Flash儲存,對建構AI資料湖而言極具價值。


Card Image

打通 3D IC 設計任督二脈:從架構探索到最終簽核的加速實踐

Chiplet 與異質整合正在改變半導體設計。透過高效能中介層與先進封裝,設計團隊可將不同製程、不同供應商的運算、記憶體、I/O 與加速器 IP,整合為複雜的系統級封裝…

Chiplet 與異質整合正在改變半導體設計。透過高效能中介層與先進封裝…