随着AI技术快速演进,资料中心储存系统的需求正进入前所未见的高峰。从大型语言模型(LLM)训练到即时推论应用,海量资料的生成、处理与存取对储存基础架构提出前所未有的挑战。
首先,AI应用特别是在推论阶段,对高吞吐量与低延迟的依赖极为强烈。企业级AI代理应用、延伸上下文视窗以及RAG(Retrieval-Augmented Generation)流程,都仰赖即时且稳定的资料存取能力,这意味着传统储存架构已难以支撑这类工作负载的高密度存取模式。
其次,随着AI训练模型不断膨胀,储存设备必须能承载更大的资料湖与向量资料库。这不仅牵涉容量的扩展,更须兼顾设备占用空间与能源使用效率,以控制整体总拥有成本(TCO)。
最後,永续发展成为不可忽视的目标。储存系统占据资料中心总能耗的比例日益上升,如何在效能提升的同时减少碳排放,是产业必须正面迎战的议题。
为因应上述挑战,美光以其第九代3D NAND技术(G9 NAND)为核心,推出三款专为AI资料中心打造的SSD。其中包括首款支援PCIe Gen6的9650 SSD。该产品提供高达28 GB/s的连续读取效能,以及550万IOPS的随机读取效能,可满足高阶AI推论系统需求所设计。另一项技术突破来自6600 ION SSD,其单颗储存容量最高达245TB,可在仅1U的机架空间内实现2.4PB的Flash储存,对建构AI资料湖而言极具价值。