2025-09-09 18:48:41 周佩宇 發佈
在生成式AI掀起的全球運算競賽中，記憶體已從配角躍升為AI基礎設施的核心。今(9)日於SEMICON Taiwan舉行的記憶體高峰論壇，迎來SK海力士、三星、美光三大記憶體廠高層首次同台發表演說，聚焦高頻寬記憶體（HBM）在能效、封裝與新架構上的挑戰與機會，並不約而同點出台灣半導體生態系的重要地位。

SK海力士HBM事業規劃副總裁崔俊龍(圖左二)表示，隨著AI訓練與推論需求暴增，HBM已不只是「配角」，而是系統效能的關鍵推手。以單一AI任務為例，HBM的功耗占比已從12%攀升至18%以上，未來將更高。他指出，若HBM功耗改善10%，整體系統功耗便可下降2個百分點；若改善提升至50%，相當於資料中心所需伺服器之功耗可減少一成。他並強調，SK海力士最新推出的HBM4，容量達36GB、頻寬超過2TB/s，並針對AI工作負載優化能效，未來更將推進客製化HBM方案，與晶片設計廠緊密合作，打造專屬架構。

三星記憶體產品規劃副總裁Jangseok Choi(圖右二)則以AI生成影像為開場，點出AI帶來的龐大運算需求，也帶來資料中心能源與散熱挑戰。昂貴GPU經常因記憶體頻寬不足而閒置，三星也將推動客製設計的HBM，並以混合銅鍵合（Hybrid Copper Bonding）取代傳統封裝，提升堆疊密度與散熱效率，以支撐AI高功耗環境。

此外，他說明記憶體內運算（PIM）與近記憶體運算（PNM）更將是下一步突破。部分運算可下放至記憶體或周邊元件，以降低延遲並提升能效。實驗顯示，在LPDDR6與HBM中導入PIM，推論效能可提升逾2倍、能耗減半。Choi並強調，台灣完整的半導體生態系，將是推動AI記憶體創新的關鍵夥伴。

美光技術長Dr. Nirmal Ramaswamy(圖右一)則點出，AI模型參數正邁向兆級，記憶體需求逼近物理極限。傳統DRAM在電容結構與感測上已遇到瓶頸，美光正推進3D DRAM技術藍圖，亦透過混合銅鍵合與封裝方式突破限制，長遠來看，美光也在探索新興記憶體，並認為FeFET最具潛力，因其效能接近DRAM且具備成本優勢，有望成為CXL記憶體擴充模組的選擇。Ramaswamy指出，若記憶體功耗表現缺乏突破，美國資料中心在2030年恐將消耗全國約一成的電力，其中AI佔比相當可觀，亦即要讓AI持續擴張，必須大幅降低記憶體能耗。

整體來看，三大廠相同觀點在於，記憶體不再只是儲存，而是驅動AI效能與能效的核心基礎。從客製化的HBM、3D DRAM藍圖，到先進封裝方案，都顯示下一階段AI競賽除了GPU，更會關注如何藉由記憶體的技術創新，支撐未來的AI基礎設施。