恐怖！DeepSeek遭以色列公司起底 可生成惡意程式竊取信用卡資料
2025/01/29 18:08  
中國AI新秀DeepSeek所推出的低成本大模型，引起全球關注。（路透）
陳麗珠／核稿編輯
〔財經頻道／綜合報導〕中國AI新秀DeepSeek所推出的低成本大模型引發諸多疑慮，包括將大量美國用戶的資料直接傳回中國，微軟及OpenAI也正調查DeepSeek是否竊取數據。以色列情報公司Kela則指出，DeepSeek可以創建惡意程式，從特定瀏覽器獲取信用卡資料，並將其傳送到遠端伺服器；甚至建議用戶從特定黑市買被竊取的數據，並給予有關洗錢的提示。
《富比世》報導，網路安全專家指出，DeepSeek沒有與美國同行具備相同的保障措施，可能會被欺騙去做「邪惡」的事情。
以色列情報公司Kela的研究人員發現，他們可以在 DeepSeek R1 上複製之前 OpenAI 模型使用的攻擊（這些漏洞現已修復），讓這款中國應用程式幫助他們編寫勒索軟體和其他類型的惡意軟體。
Kela 將該模型描述為「高度脆弱」和「容易被繞過」，他們還發現可以讓DeepSeek 創建惡意程式，從特定瀏覽器獲取信用卡資料並將其發送到遠端伺服器。DeepSeek 也會建議用戶從特定黑市購買被盜數據，並給予有關洗錢的提示。
報導指出，DeepSeek的弱點可能部分源自於開放性，增加了其對越獄（jailbreak，指的是解鎖裝置的作業系統）和對抗式攻擊（adversarial attacks）的可能性，因為惡意行為者可以利用這些可見的推理路徑來識別和定位漏洞。
報導也提及，DeepSeek的應用程式還出現審查問題。富比世向 DeepSeek 提出了五個問題，涉及中國涉嫌侵犯維吾爾人權、台灣主權、六四天安門事件、對習近平的批評以及中國的審查制度。它對每個問題的回答都是一樣：「很抱歉，我無法回答這個問題，讓我們來談談數學、程式和邏輯問題」。