算力瓶頸衝向太空　聯發科資深處長梁伯嵩：未來100萬顆H100只是中段班

• 劉憲杰／台北
• 2026/08/21

聯發科梁伯嵩表示，AI資料中心軍備競賽白熱化，算力瓶頸從地球延伸到太空。符世旻攝

聯發科資深處長梁伯嵩在DIGITIMES舉辦的「AI on Chips：半導體產業前瞻趨勢論壇」中指出，AI發展已從單一大型語言模型（LLM），走向由不同職能的AI代理（AI Agent）組成的協作團隊，同時重申先前提過的7層AI架構，與NVIDIA執行長黃仁勳提出的5層蛋糕相對照。
黃仁勳的架構偏重能源、晶片與基礎設施等硬體底層，梁伯嵩則將模型層拆分出「情境層」，並在應用層下細分出「代理層」，強調協調與應用才是釋放生產力的關鍵。
 

其中，與台灣最相關的半導體硬體端，梁伯嵩表示，AI運算可分為兩類，一種是手機、機器人等耗電約10W的邊緣裝置晶片，分布於全球數十億台裝置；另一類是資料中心，其晶片耗電動輒上千瓦，且是數十萬顆甚至上百萬顆晶片互連運算。
當前眾人看到的AI軍備競賽，是由AI訓練需求推升而出，在神經網路架構Transformer問世前，訓練一個模型不用10顆GPU，而到ChatGPT時期已經需要數千至近萬顆，如今的超大型AI資料中心，更是已達40、50萬顆GPU的規模，且數字仍持續上升。
梁伯嵩表示，以H100算力等值的估算，目前全球最大的AI資料中心約等於100萬顆H100，耗電近約1GW。到了2030年，100萬顆H100的規模只能在資料中心排到中段班，屆時將有十幾座資料中心規模更大，耗電更上看3~4GW。
如欲達成此AI資料中心建置，單靠晶片設計已不足夠，而是得涵蓋台積電先進製程、先進封裝，以及Scale-up與Scale-out網路的系統級工程。
梁伯嵩強調，目前逾1兆美元的投資，僅能滿足當前需求，未來產能缺口仍待填補，而台灣半導體供應鏈的角色只會更加吃重。
同時，梁伯嵩也引述SIA資料示警，全球運算耗能成長已超過地球能源供給負荷，因此才會有Tesla執行長Elon Musk提出太空資料中心的構想。當目標算力要做到1TW，這相當於2個美國的用電量，這勢必會需要大量晶圓以及百萬顆衛星投入。
另在軟體端，梁伯嵩以倒三角形歸納提示工程、情境工程到流程工程等技術層次，指出關鍵在於從「人機迴圈（Human-in-the-loop；HITL）」走向「人為監控（Human-on-the-loop）」。
若堅持人工逐一驗證，人反而成為瓶頸，未來應由AI代理互相勾稽，人類透過指標監督流程，這甚至會催生出「AI管理學」這個新領域。
責任編輯：許經儀