《產業先鋒隊》
2023.03.04 黃宇帆 分析師

簡介:
ChatGPT已帶來更多AI運算需求，且耗電更高，隨之而來的溫度升高，散熱變得更重要。
AI伺服器必須搭配圖形處理器（GPU），通常是一顆中央處理器（CPU）搭配許多GPU一起使用，且需要更多運算能力、更多電力、更好的散熱，及更多的網路傳輸配套等。根據市調機構New Street Research估計，微軟推出結合ChatGPT的Bing搜索引擎，可能需要八個GPU，才能在不到1秒時間內回應一個問題。按照這樣的速度，微軟將需要超過2萬台輝達（Nvidia）的DGX AI系統，才能將Bing中的模型部署到每個使用者身上，如此一來微軟在這項功能上要花費的基礎設施支出可能需要40億美元。
如果想要擴展到Google的規模，即每天服務80億到90億次查詢，實際在DGX AI系統花費將達到800億美元。這家公司是全球雲端一哥有眾多題材讓隊長說給你聽!

本平台與所推介分析之個別有價證券無不當之財務利益關係，本節目資料僅供參考，投資人應獨立判斷審慎評估並自負投資風險。