2024-11-19 15:50:28 記者 新聞中心 報導
設計和製造服務(DMS)廠和碩(4938)今(19)日表示，公司將於美國運算大會SC24，以「為AI而生，激發高效運算的想像力」為主題，展出適合即時大型語言模型(LLM)運算與先進散熱基礎設施的解決方案，並透過發表多節點高密度運算效能設計的液冷(DLC)伺服器產品，引領資料中心向增進能源效率之路邁進。

和碩表示，呼應今年SC24的展覽主題「創造高效運算」，公司展出一系列與合作夥伴AMD、Intel、NVIDIA合作設計支援高效運算的伺服器與機架(Rack)級方案，此次展出主要特色產品包含：

1. 支援大規模生成式人工智慧運算的機架(RA4401-72N1)，並搭配液冷Liquid-to-Air Sidecar或Liquid-to-Liquid CDU散熱機櫃方案。運算節點採用NVIDIA GB200 NVL72高密度機架級GPU解決方案，為生成式人工智慧運算提供動力，實現30倍的即時大型語言模型(LLM)推論速度，降低25倍的總擁有成本(TCO)並減少25倍的能源消耗。

2. 邊緣推論在AI應用上的重要性與日俱增，和碩展示利用NVIDIA MGX模組參考架構下，採用NVIDIA GH200、NVIDIA H200 NVL、NVIDIA L40S的2U (AS201-1N0、AS205-2T1)/4U(AS400-2A1)伺服器。其中NVIDIA H200 NVL為主流企業伺服器解鎖了AI加速，增進大型語言模型(LLM)推理速度、最高可達1.7倍，在高效能計算(HPC)應用相較H100 NVL效能則提高1.3倍。

3. 資料中心持續追求提高運算密度和運算效能的方案，和碩結合先進 (Direct-to-Chip) 冷卻散熱解決方案，並搭載最新AMD EPYC 9005系列處理器，打造多節點高密度並符合ORv3規範的OCP伺服器 (MS303-4A1)。和碩也同時展出多台氣冷式多節點伺服器 (MS301-2T1,MS302-2T1)，搭配Intel Xeon 6 處理器E-cores 和P-cores，能應付資料中心之彈性擴充與節能省電的要求。