chen2929 發達集團總裁
來源:投顧明牌   發佈於 2024-03-29 05:48

一次看懂輝達AI晶片B100、B200、GB200、DGX200大解析

鉅亨網新聞中心  2024-03-28 20:00

一次看懂輝達AI晶片B100、B200、GB200、DGX200大解析(圖:業者提供)


輝達在 3/18 開始召開 GTC 大會,董事長黃仁勳在會中發佈了最新的 Blackwell 晶片,AI 效能是上一代 Hopper 的五倍,再度引領人工智慧晶片領域大步邁進,輝達八年內將 GPU 效能增加 1000 倍的算力,遠超過摩爾定律。

大華國際投顧阮蕙慈指出,透過 Blackwell 新平台架構,產生了 B100、B200、GB200 等晶片,並打造出最新的 DGX 伺服器 GB200 NV72,將生成式 AI 提升到兆級參數的規模,並且大型語言模型(LLM)推理速度較上一代產品快了 30 倍,並且降低 25 倍的 TCO(最佳的功率密度、品質和總體擁有成本) 和 25 倍的能源消耗。



阮蕙慈表示,Blackwell 為輝達最新的平台架構,並為首次採用晶片組設計的 GPU 晶片,雖然未採用台積電更先進的 3 奈米製程,而是延續較為成熟的 4NP 製程,但透過晶片組的設計,使用 NVlixnk-HBI 的晶片對晶片互連技術,每秒傳輸速度 10TB,一舉突破晶片尺寸與微縮的製程框架,將 Blackwell 的 GPU 晶片效能大幅躍昇。

阮蕙慈說明,B200 晶片可搭載 8 顆 HBM3e 記憶體,總容量將達到 192GB,且擁有 2080 億個電晶體,是前一代 H100 晶片的 2.6 倍。B200 晶片將接續 H100 晶片成為輝達最新的 GPU 核心處理器,包括會中發表的 GB200 及目前最新的 DGX GB200 NVL 伺服器多是以 B200 為運作基礎。

阮蕙慈認為,GB200 晶片更受到市場矚目,不僅效能大幅提升,能耗更是大減,被市場稱為「地表最強 AI 晶片」。GB200 由三顆晶片組合而成,包括兩顆輝達自有的 B200 晶片,再加上基於 Arm 架構的 NVIDIA Grace CPU。GB200 一舉滿足 AI 伺服器需求著的系統架構需求,並持續加深與 ARM 的合作關係。

新的 GB200 DGX NVL27 AI 伺服器產品,搭載 36 個 Grace 中央處理器(CPU)及 72 個 Blackwell GPU,NVL72 將成為輝達大型資料中心的基礎架構。另外,NVL72 也正式採用液冷散熱解決方案,大幅推動投資市場對於液冷廠商的投資熱潮。

阮蕙慈強調,輝達推出一系列規格的晶片和伺服器架構,再度引爆 AI 伺服器規格技術的大躍進,為社會大眾開啟新的 AI 篇章。但輝達會中發表的一系列產品名稱,也讓不懂技術的社會大眾一頭霧水,無法有效的理解,因此阮蕙慈分析師特別針對此次的 GTC 大會中的重要專有名詞一一解說,並規劃出投資方向,對想了解輝達新晶片的投資朋友,可參考阮蕙慈分析師下列影片說明。

採訪來源: 大華國際投顧 阮蕙慈分析師

評論 請先 登錄註冊