NVIDIA(輝達)今天宣布繼近期在最新的AI訓練測試中的佳績,最新資料中心與邊緣AI推論作業效能測試皆雙雙創下速度最快的成果。
|
NVIDIA EGX 平台 |
MLPerf Inference 0.5為業界首創獨立AI推論測試基準套件,其結果向外界展現用於資料中心的NVIDIA Turing GPU與用於邊緣運算的NVIDIA Jetson Xavier系統單晶片之優異表現。
MLPerf的五項推論基準適用於多種形式與四個推論情境,其中包含已經建立的影像分類、物體偵測和翻譯等AI應用項目。
NVIDIA在資料中心伺服器與離線情境的五項基準測試中皆拔得頭籌,Turing架構GPU在所有商用處理器中讓各處理器均創下最佳的表現。Jetson Xavier在著重於邊緣的單串流及多串流情境中,在所有商用邊緣及行動系統單晶片中提供最高的效能。
NVIDIA加速運算部門副總裁暨總經理Ian Buck表示:「AI正處於一個轉捩點,迅速從研究領域轉向實際應用的大規模落地部署。AI推論有著十分吃重的運算要求。NVIDIA結合業界最先進的可編程加速器、CUDA-X AI演算法套件,以及在AI運算方面的深厚專業知識,可以幫助資料中心部署其龐大且不斷增長的複雜AI模型。」
NVIDIA強調其運算平台在多種 AI 作業負載方面的可編程性和效能,是唯一一間在五項MLPerf基準測試中均創下亮眼成績的公司。今年七月NVIDIA在AI訓練MLPerf 0.6基準測試拿下第一,締造了八項訓練表現的最佳紀錄。
NVIDIA GPU協助全球眾多最大型雲端基礎設施加速大規模推論作業,包括阿里雲、AWS、Google Cloud Platform、Microsoft Azure及騰訊雲。現今AI延伸至行動點及資料建立的邊緣,像是Walmart和P&G在內的全球各大企業和組織,都使用NVIDIA EGX邊緣運算平台和AI推論效能,在網路邊緣執行複雜的AI運算作業。
NVIDIA透過NVIDIA TensorRT 6高效能深度學習推論軟體創下各項MLPerf測試佳績,該軟體可以在從資料中心到邊緣輕鬆優化及部署正式生產環境中的AI應用程式。在Github檔案庫中也能以開放源碼的型態取得新的TensorRT優化項目。
全新的Jetson Xavier NX
NVIDIA今日也推出Jetson Xavier NX為旗下的推論平台加入新生力軍。Jetson Xavier NX是全球尺寸最小、功能最強大的AI超級電腦,能用於機器人和邊緣嵌入式運算裝置,在MLPerf Inference 0.5測試中使用的是Xavier系統單晶片的低功率版本。