貿澤電子(Mouser Electronics)即日起供貨BittWare的GroqCard加速器。這款雙寬PCIe外形的ML加速器為PyTorch、TensorFlow和ONNX訓練的深度學習模型提供簡單的部署路徑。GroqCard加速器可用於金融、政府、生成式AI、石油和天然氣以及工業應用,為其加速AI、HPC和ML工作負載。
![貿澤電子即日起供貨可輕鬆部署深度學習模型的BittWare GroqCard加速器](/news/2024/08/22/1413079350S.jpg) |
貿澤電子即日起供貨可輕鬆部署深度學習模型的BittWare GroqCard加速器 |
貿澤供應的BittWare GroqCard加速器有9個RealScale晶片到晶片連接,可確保部署多個卡與一個卡一樣高效。此加速器可提供近乎線性的多伺服器和多機架可擴展性,而無需外部交換機。糾錯碼 (ECC)可防止資料損壞,進而改善正常運作時間和可靠性。BittWare GroqCard加速器採用完全確定性GroqChip處理器,有助改善可擴展性。GroqChip透過減少資料移動,保證可預測、無瓶頸、低延遲的效能。此獨立晶片可彈性整合到運算密集型應用中,其簡化的架構和以軟體為重點的設計,使GroqChip處理器比GPU更容易編程。
GroqWare套件是一個完整且多功能的軟體堆疊,由Groq編譯器、Groq API和實用程式組成。此套件可簡化整合與設定的程序,並與行業標準的AI和ML框架相容。GroqCard加速器的每個晶片具有230MB SRAM和高達80 TB/s的片上記憶體頻寬,可實現高速資料存取和處理能力。