AMD宣布最新AMD ROCm 6.2开源堆叠软体现已释出,为AMD Instinct系列带来效能和效率最隹化的成长。关於新增功能和优势的详细资讯,包括:
·扩展vLLM支援,以提升Instinct加速器的人工智慧(AI)推论能力。
·全新Bitsandbytes功能可透过提升记忆体效率与效能来增强AI训练和推论。
·全新的离线安装程式建立器可简化ROCm的安装体验。
·全新Omnitrace与Omniperf分析工具透过效能分析和精简的开发工作流程来革新AI和高效能运算(HPC)的开发。
·更广泛的FP8支援可在使用更少记忆体的情况下进行更具效率的训练,从而增强AI推论能力。
ROCm 6.2带来AI加速器效能和效率提升,同时提供工具及支援,助力开发人员在AI专案中突破极限。