頻寬傳輸升級生成式AI概念股下一個聚焦
2023/6/1 林修鋒
全球前十大IC設計公司，輝達、超微、聯發科、聯詠、瑞昱等五家公司都是台灣人主導，可以說背靠台積電強大的晶圓代工製造能力，台廠的科技勢力從下游的筆電擴大到上游晶片，在輝達以A100與H100晶片創造生成式AI，重新定義電腦，推動科技業劃時代革命，5月29日黃仁勳在台北COMPUTEX上展示搭載Grace Hopper超級晶片的新型DGX GH200人工智慧超級電腦，搭載256顆GH200 Grace Hopper晶片的DGX GH200顯示記憶體總和達到144TB(通過交換網絡實現顯示記憶體共用)，在第四代NVlixnk加持下，GPU網路頻寬達900GB/s，總算力達到1 exaFLOPS@FP8，完美適配大規模的AI訓練／推理需求。
在最近三個月探討AGIC的供應鏈過程，雖然理解高算力也要搭配高傳輸力，但市場甚少討論到頻寬的議題，僅本周刊提示到CPO光模組的應用與未來改革，除此之外甚少有著墨，這次輝達在台北電腦展還發布了世界上第一個400Gbps端到端AI乙太網路平台Spectrum-X，當然就是為了解決傳統的數據中心網路中，數據需要在光模組和交換晶片之間進行多次電─光和光─電轉換，這會導致能耗增加和傳輸速率下降的問題。
Spectrum-X其中的RDMA技術可用於跨伺服器顯示記憶體共用；2022年亮相的Spectrum-4交換機也正式量產，可以連接分布在兩層網路的8192個GPU，交換速率達到51.2T。
AI高算力、高傳輸 帶動網路頻寬再升級
Marvell在5月25日盤後發布的財報中提到「預期2024年業績翻一倍，2025年再翻一倍」。Marvell指出，AI已成為Marvell的關鍵成長動能，預估2024會計年度AI相關產品(網路連接產品、新興雲端優化晶片平台)營收至少較2023年度呈現倍增，並在未來幾年持續迅速成長。Marvell股價5月26日收漲32.42%，市值飆升近140億美元。
從Marvell釋出的訊息可知，AI高算力、高傳輸將帶動網路頻寬的再一次升級。輝達的InfiniBand(無限頻寬)解決方案包括InfiniBand交換機、InfiniBand網卡等硬體設備，以及相對應的驅動程式和管理軟體。主要提供高性能、低延遲的網路連接，幫助用戶實現大規模並行計算、大數據處理等複雜任務。
交換機是搭建網路的核心設備之一，主要目的為擴大網路覆蓋範圍，能為子網路提供更多的連接端口，以便連接更多的伺服器、電腦、移動終端及物聯網終端。
交換機的出現主要是為解決在大規模網路環境下，傳統的網路設備(如集線器)在接收到資訊後，會把資訊廣播到所有連接的設備，這就導致網路壅塞，而且任何設備都可以接收到所有的資訊，這就有可能洩漏私密信息。而交換機則通過準確地將資訊發送到目標設備，解決了傳統的網路設備因廣播方式導致的網路效率低下和安全性問題。
值得一提的是，交換機與CPO其實有一定相關聯，它們是搭配使用的，隨著頻寬提升，新架構對光模組的需求彈性也增加，這也是為什麼本周的眾達-KY與華星光股價突然漲起來的背景。
輝達認為Infiniband更加適合GPU負載，適合Infiniband協議的光模組單價也更高，將進一步提升光模組在超級電腦算力中心的價值量，根據輝達的估算，Infiniband和乙太網路的吞吐量差異是15%-20%。
數據流量成長 網路設備市場需求看好
隨著AR、VR、車聯網、人工智慧、雲計算等各種新技術的出現與商業應用化落實，互聯網設備接入數量快速增加，全球數據流量成長，進一步帶動全球互聯網數據中心建設需求不斷成長。
全球數據總量由2021年70ZB將成長至2025年175ZB，年均複合成長率高達25.74%，全球網路設備市場需求看好。交換機上游是晶片商，全球乙太網交換晶片廠商主要包括博通、Marvell、瑞昱、輝達、英特爾等。交換機產業鏈的中游是交換機設備商，主要廠商思科、華為、Arista、HPE、Junipe。交換機產業鏈的下游包括電信運營商、雲企業、大型企業等。