人類 發達集團副總裁
來源:財經刊物   發佈於 2025-03-06 13:53

DeepSeek破解率100% R1上市2天就被破解 衍生效應曝光

編譯盧思綸/即時報導 2025-03-06 00:00 ET




中國A新創深度求索服務頁面。(路透)

中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Patel)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSeek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安全風險。

巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準」。

巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的操作規範和限制。

此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(prompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型被攻擊成功率為26%。

巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接性都是瓶頸。安全也會是限制。計算、數據都會是限制。」

評論 請先 登錄註冊