-
鈞鈞 發達集團副總裁
-
來源:實力養成
發佈於 2024-08-07 11:24
AMD推最新AMD ROCm 6.2開源堆疊軟體 助功HPC及AI效能
【時報記者任珮云台北報導】AMD宣布最新版本的AMD ROCm 6.2開源堆疊軟體現已釋出,為AMD Instinct系列加速器帶來顯著的效能與效率提升。 AMD ROCm 6開源軟體平台經過優化,可從AMD Instinct MI300加速器中提取最佳的高效能計算(HPC)和人工智慧(AI)工作負載效能,同時保持與業界軟體框架的相容性。ROCm包括一系列驅動程式、開發工具和API,從低階核心到最終使用者應用程式的GPU程式設計均可實現,並且可以根據您的具體需求進行自訂。在這個免費、開源且整合的軟體生態系統中開發、協作、測試和部署應用程式。設計完成後,軟體具有可移植性,可在不同廠商的加速器之間或在不同的GPU連接架構之間移動,所有這些都是在設備無關的情況下實現的。ROCm特別適合於GPU加速的高效能計算、人工智慧、科學計算和計算機輔助設計(CAD)。 AMD ROCm 6.2該版本的新增功能與優勢,包括:擴展vLLM支援:提升Instinct加速器的人工智慧推論能力;全新Bitsandbytes功能:通過提高記憶體效率與效能,增強AI訓練和推論;全新離線安裝程式建立器:簡化ROCm的安裝體驗;全新Omnitrace與Omniperf分析工具:通過效能分析和精簡的開發工作流程,革新AI和高效能運算的開發。更廣泛的FP8支援:在使用更少記憶體的情況下進行更高效的訓練,從而增強AI推論能力。