山頂洞人 發達集團總裁
來源:財經刊物   發佈於 2023-11-30 06:06

雲端巨頭熱戰 輝達變共主

雲端巨頭熱戰 輝達變共主
04:102023-11-30 
工商時報
 
張珈睿、翁毓嵐、陳穎芃

  • 雲端巨頭AWS與輝達合作,打造AI超級電腦。圖/美聯社

    字體大小: 
    A+

    A-


    雲端巨頭與輝達合作

    繼微軟攜手輝達(NVIDIA)推出AI代工服務後,另一巨頭AWS(Amazon Web Services)也與輝達合作,共同打造首款由超過1.63萬個GH200晶片驅動的AI超級電腦。科技業者指出,CSP(雲端服務供應商)步入以AI開發AI的高速擴張階段,軍備大戰越演越烈,除輝達確立AI共主地位外,台系供應鏈如台積電、雲達、神達、英業達、緯創、緯穎同樣受惠。
    輝達多元布局AI領域,29日推出名為NeMo Retriever的人工智慧微服務,與Cadence(新思科技)、SAP等企業率先導入應用,提升自然語意檢索能力,實現更精準的人工智慧推論服務,例如各類聊天機器人、Copilot輔助功能與內容摘要工具等,目標逐步蠶食軟體大餅,打造全局通吃局面。
    此外,AWS擴大與輝達合作,成為首家導入多節點NVlixnk技術之GH200的CSP業者,預期將拉抬首波GH200系列AI伺服器優先出貨的廣達(雲達)動能,另神達(神雲)亦可望跟進出貨。
    供應前段晶片模組與基板的緯創與鴻海,出貨效益亦於今年下半年起逐步浮現,伺服器主板供應大廠英業達也可望在AWS拉貨帶動下推升營運動能,公司並因應AWS針對大規模與尖端生成式AI及HPC高效能運算,規畫於明年一、二季出貨的L40S及H200系列產品。
    值得注意的是,AWS積極發展採用ARM架構的自研晶片之AI伺服器,法人指出,受惠股緯穎即自近兩季來浮現效益,預期在AWS持續擴大拉貨力道下,第四季可望能有優於其它ODM廠的出貨表現,營運動能預估將延續至明年。
    業者指出,輝達和AWS展開合作,並於AWS上託管NVIDIA的人工智慧訓練服務NVIDIA DGX Cloud,為首個GH200 NVL32之DGX Cloud,加速尖端的生成式人工智慧和參數超過1兆個的大型語言模型的訓練。此外,也將打造世界上最快GPU驅動的人工智慧超級電腦-Ceiba計畫,配備16384個 NVIDIA GH200 超級晶片,匯集雙方技術優勢。

評論 請先 登錄註冊