2025-02-01 旺得富理財網
李宗莉
DeepSeek以低成本的開源AI模型技術橫空出世,震撼全球AI界,由於未來企業無須再花大錢開發AI技術,法人圈普遍擔心,
以近日摩台指走勢觀察,台股下周一(3日)新春開紅盤時,恐醞釀千點殺機。
前外資知名分析師、人稱艦長的程正樺給出3點中肯分析,認為不僅輝達關鍵優勢不再,HBM、CoWoS技術的必要性也跟著降低,在大量平替版夾殺下,直言看淡AI硬體領域,提醒投資人開年後,比起趁新春大特買撿便宜,不如發現苗頭不對,腳底抹油先跑再說。
程正樺昨(31)日在
臉書發文指出,DeepSeek的論文重點,以及它在演算法上的突破,網路上已經有很多人分享,自己也不再贅述,而台股投資人關心的開年後的投資動作,
究竟是新春大特賣趕快撿便宜、還是苗頭不太對腳底要抹油?很遺憾的,這幾天研究下來,個人目前對硬體的看法越來越偏向後者,但相關的AI應用,卻可能加速發展,並分享3大觀察重點。
1
.還記得Apple為了推銷Apple Intelligence,將iPhone全面升級到8GB以上嗎?這僅僅是為了跑1個3B參數的小模型而已。現在,有人成功
用1張Nvidia RTX 6000(48GB VRAM),就可以跑動DS 671bn參數的大模型,而且這個模型還開源,可以直接下載。
這代表什麼意思?以後企業或個人要建AI,可能買1台具有高階顯卡的電腦就做的到。不用每月花200美元訂閱OpenAI、不用CSP租賃昂貴的AI server & 網路...。
在地端佈署AI變得簡單&便宜許多,這兩天已經有看到朋友的公司開始研究把AI模型的佈建轉為在地端執行的可能性。
2.
各大廠紛紛投入:
短短幾天,可以看到微軟、AWS、NVIDIA都開始提供DS R1模型的服務。由於對硬體的要求的確不高,百萬token輸出的價格只要2.19美元,對比OpenAI輸出價格爲60美元,價差接近30倍。
同時,
NVIDIA官方也有描述,在單個NVIDIA HGX H200系統上,完整版DeepSeek-R1 671B的處理速度可達3872 Token/秒。僅需1個系統就可以完整運作DS R1大模型。
程正樺認為,就算企業依然需要利用雲端來佈建AI,需要的系統&價格也比之前簡化許多。
3.
NV關鍵優勢不再?這兩年來,我們持續提到NV產品在大模型與高運算力方面的優勢,包括記憶體的使用、NVlixnk多卡串聯、Scale-up/out 的領先等等;在探討下一代Rubin或更後面的產品,討論的是1個機櫃做到NVL 144/288、如何處理這麼大功耗的產品、系統架構該如何演進等等。
重點不僅僅是「教主產品做的比別人好」,而是「不用教主的產品就根本無法訓練&使用這些大的模型」。忽然間,這個必要性被打了一個大問號。
進而延伸的問題:HBM、CoWoS等等,原本為了在空間體積功耗等等限制下塞進最多算力的技術,是不是仍然必要?還是有許多便宜的替代品可以用?
他也批評,很多人喜歡把政治問題扯進來,但對我來說,探討DS本身到底用了多少卡有意義嗎?沒有,重點是現在實際佈署R1的硬體需求就是極低。
其次,它有沒有抄OpenAI?程正樺認為應該有吧,不過
OpenAI的GPTBoT,在網路上不顧版權的到處亂抓資料,也不是一兩天的事情了,抓完還不開源勒。對投資而言,研究整個市場結構的變化,比這些枝微末節的小事重要多了。
※免責聲明:文中所提之個股與內容,並非任何投資建議與參考,請審慎判斷評估風險,自負盈虧。