COMPUTEX 2024即將於6月4~7日展開,麗臺科技(Leadtek)以「擴充性和敏捷性重塑GPU驅動的人工智慧運用」為主題,將展示一系列滿足各種規模AI需求的創新產品,包括首次曝光的頂規WinFast Mini AI工作站、以及搭載NVIDIA RTX Ada Lovelace GPU,並支援PCIe Gen5的NVIDIA認證系統,還有適用於大規模AI的NVIDIA HGX H100伺服器等。所有新品全面採用液冷散熱技術,為LLM、生成式AI、深度學習應用和數位分身提供高效能和高可靠性。在軟體及AI應用上有更加安全的數位分身方案,以及AIDMS協助智慧漁業AI落地案例分享,都在南港展覽館一館四樓盛大展出。
|
麗臺科技以「擴充性和敏捷性重塑GPU驅動的人工智慧運用」為主題,於COMPUTEX 2024展示一系列滿足各種規模AI需求的創新產品。 |
液冷創新
現在,人們可以在辦公室直接發展數位轉型或生成式AI應用。新品 WinFast Mini AI 工作站搭載Intel最新第5代可擴充處理器,兼具強悍效能與迷你機殼外型,支援 2 張NVIDIA 高階 GPU,並提供更穩定的高瓦數電源供應器,為NVIDIA下一代GPU做好準備。WinFast Mini AI 工作站採用液冷散熱技術,能有效降低 GPU 溫度並提供較安靜的運作環境,是兼顧運算效能與空間彈性的方案。若有更多的AI 訓練需求,則可選擇支援 4個液冷GPU 的 WinFast WS2050L 工作站,高效能又安靜且獨立不需外接液冷管線,適合有AI 訓練需求的辦公室使用。
LLM大型模型適用的液冷AI伺服器
麗臺擁有8U、5U、4U、2U 和 1U 外形尺寸的伺服器,在COMPUTEX展出的8U AI伺服器8U NVIDIA HGX AI Server專為LLM、生成式AI及基礎模型(foundation model)等大型AI深度學習工作負載而設計。8U HGX AI Server搭載2個第五代Intel可擴充處理器與8顆NVIDIA H100 SXM5 Tensor Core GPUs,並結合業界最快的 NVIDIA NVLink 4.0技術、NVIDIA NVLink Switch互連,以突破性的高速傳輸技術,大幅提升GPU到GPU之間的通訊速度,可提供前所未有的加速能力,打破AI效能的瓶頸。這台AI伺服器同樣採用創新的D2C液冷散熱技術,可直接將冷卻液傳輸到每個GPU晶片,有效降低GPU溫度,維持系統穩定性。
為了因應不同規模的AI訓練工作,麗臺也推出配置1至10顆GPU的不同規格AI工作站和伺服器。值得一提的是,考量到AI開發的時間重要性,麗臺為AI系統提供了相容性最高的Leadtek RTX AI Software Pack ,以及 GDMS(GPU Docker Management System) GPU資源分配與管理系統。讓客戶在取得硬體設備後,無需額外投入時間來選擇與調教相關NVIDIA Library與 Framework、驅動程式以及Docker 等環境,即可進行AI應用的開發與GPU 資源的分配及管理。
當透過AI的協助,各行各業發現在品質保證、錯誤降低和成本控制方面都能獲得顯著改善,使企業無不對AI趨之若鶩。但對缺乏相關基礎建設和應用能力的大多數企業而言,也只能對AI轉型採觀望態度。這在WinFast AI 工作站和AIDMS推出後,有了翻天覆地的改變。
麗臺的AIDMS(AI開發管理系統)是一個底層專為團隊協作而生的MLOps管理平台,其重要性是以No-Code提供了一個易學易用的平台,讓不同專業背景的專業人士都能參與AI應用開發。例如,熟悉水產養殖的專業人員可以通過AIDMS與AI工程師合作,共同參與AI辨識系統的開發,大大降低了不同專業之間的溝通誤差,同時在短時間內享受到AI技術帶來的便利和效益。NVIDIA Omniverse Enterprise與HP Anyware的整合,帶來零信任架構下的高度保護資安措施,在3D設計協作和模擬效果上也實現照片級真實感和無縫交互性,打造安全可靠的工業數位分身。
COMPUTEX 2024展期為期4天,麗臺科技(Leadtek)展位為南港展館1館4樓的#M1001a,歡迎一同探索深入體驗創新技術。