編譯盧思綸/即時報導 2025-03-06 00:00 ET
中國A新創深度求索服務頁面。(路透)
中國人工智慧(
AI)新創「深度求索」(
DeepSeek)以低成本、高性能的模型震撼
矽谷乃至國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Patel)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSeek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安全風險。
巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準」。
巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的操作規範和限制。
此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(prompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型被攻擊成功率為26%。
巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接性都是瓶頸。安全也會是限制。計算、數據都會是限制。」