Mashdigi
2024年11月26日 週二 下午10:38



在持續向人工智慧新創Anthropic加碼投資，使其擴大使用AWS平台服務之餘，亞馬遜目前更Trainium2，藉此降低仰賴採購NVIDIA加速晶片的需求。

傳亞馬遜啟動「射月」計畫，降低仰賴採購NVIDIA加速晶片的需求
Trainium2是亞馬遜於去年底的re:Invent 2023大會上公布產品，標榜能以高於4倍推論效能，以及提升2倍電力使用效率，加速人工智慧模型訓練，並且降低整體訓練成本，而亞馬遜投資的Anthropic也確定以此處理器加速其人工智慧模型訓練工作。
除了Trainium2，亞馬遜也針對通用人工智慧運作打造Graviton4客製化推論晶片，同樣以Arm架構設計，標榜比Intel、AMD處理器能以更低電力損耗形式運作，同時整體執行效率更可提升30%左右，相對也能讓企業運用時降低背後成本花費，並且能對應處理更大量資料、工作負載。
類似情況，包含Google、微軟在內公有雲服務業者也先後投入客製化處理器設計，目的在人工智慧運算應用發展降低仰賴NVIDIA等加速晶片供應需求。
不過，即便AWS在內公有雲服務業者推出自有客製化處理器，以公有雲服務依然持續提供不同基礎架構環境的情況來看，與NVIDIA、Intel、AMD仍會維持供應合作關係，目前公有雲服務業者投入的自有客製化處理器多半是針對特定佈署使用需求設計，例如對應更低運作功耗，或是以更敏捷等情形，因此對於NVIDIA在內晶片供應商而言，實際造成衝擊依然有限。