新聞專員 發達公司課長
來源:財經刊物   發佈於 2025-01-16 18:14

AWS聚焦生成式AI,Trainium 3晶片今年上線

2025-01-16 18:12:42 記者 周佩宇 報導
AWS今(16)日舉行的記者會,為去年AWS的雲端科技發表作重點回顧,公司也表示,下一代 AI 訓練晶片 Trainium 3 會在今年內推出。該晶片採用台積電(2330)3 奈米製程,預計將使效能提升四倍,並在效能、能效及密度上樹立新的業界標準。Trainium 3 的發布將進一步推動生成式 AI 的發展,協助企業在大型模型的訓練與推論上達成更高效率與更低成本。
在今天的發表會上,AWS 台灣暨香港專業解決方案架構師總監楊仲豪將 AWS 在 2024 年全球大會上發布的新技術分為生成式人工智慧(AI)、資料策略及基礎設施技術三大領域來說明,展現 AWS 在雲端技術領域的全面突破。
生成式 AI 領域的突破包括 Amazon Bedrock 平台的升級。Bedrock 新增超過 100 款熱門模型選擇,包括最新的 Stability AI 模型,並推出了低延遲優化推論、模型蒸餾和多代理協作等功能,顯著提升推論的效率與準確性。楊仲豪表示,Bedrock 將成為台灣企業使用生成式 AI 的重要平台,他提到國泰人壽與 KKday 已經導入 Bedrock,國泰人壽也將於明日分享其應用案例,而 KKday 則利用 Bedrock 的圖形處理技術優化旅遊推薦系統,取得顯著成效。
楊仲豪還強調 AWS 在硬體基礎設施上的最新創新。公司去年推出了 Trainium 2 晶片為核心的 Amazon EC2 Trn1 和 Trn1n 執行個體,以及基於 Trn2 晶片構建的 UltraCluster 系統。UltraCluster 整合了 64 顆晶片,支持水冷散熱技術,為大型模型的分散式訓練提供穩定且高效的運算環境。
在資料治理與平台整合方面,AWS 發表了 Amazon SageMaker Unified Studio,將資料處理、模型訓練及應用部署整合於單一平台,大幅提升團隊協作效率。此外,AWS 的 Data Mesh 功能提供完整的資料生命週期管理,幫助企業實現資料透明化與應用價值最大化。楊仲豪指出,這些功能特別適合金融業等高合規需求的行業,協助企業滿足監管要求並提升資料治理能力。
(圖片來源:資料庫)

評論 請先 登錄註冊