一月下旬，由中國新創公司「深度求索」開發的 DeepSeek AI 在 app store 上架後就造成轟動。DeepSeek-R1 模型在包含數學、程式開發等多方面表現優異，和 OpenAI 不相上下，但訓練成本卻只有 OpenAI 的 4%，另一個 DeepSeek-V3 模型在軟體工程、中文能力等測試中達到了接近 Claude 和阿里巴巴的分數，數學能力甚至得到第一高分，而最讓人震驚的是 V3 模型的訓練成本居然是 OpenAI GPT-1 的二十分之一。DeepSeek 不僅 app 上線首 18 日就突破 1,600 萬次下載量、在多國的免費 app 排行榜衝上第一，用戶數甚至暴增到造成服務延遲。
員工不當使用 AI 可能造成企業資料外洩
然而，DeepSeek 推出後風波不斷，除了被懷疑使用了 OpenAI 的訓練資料、用戶互動時的言論審查，也因為資安疑慮遭到包含我國、美國、南韓、澳洲、義大利等多國政府宣布禁止於公部門使用，其資安爭議主要來自它的個人資料搜集問題。如同其他 AI 模型，它會在註冊及使用過程中搜集用戶的 email、電話、IP、生日等個人資訊及文字和語音的對話紀錄，但 DeepSeek 被懷疑背後的程式碼存在漏洞，會將這些用戶資料外流給中國政府。
事實上，在工作者們越來越依賴 AI 輔助的現在，任何 AI 工具都有可能帶來資料外洩的風險。2023 年就曾爆出三星的員工在 ChatGPT 中上傳及處理公司內部機密資料而導致外洩的新聞，也有許多專家在反覆測試下誘導了各家大型 AI 模型說出內部機密的案例。
員工使用 AI 工具可能為企業帶來的資安風險
除了上述資料外洩的問題，AI 對企業可能造成的資安挑戰還有以下這些：
- 惡意程式：有些駭客可能會使用 AI 開發精細、難以檢測的惡意程式，再透過 AI 的內部網路傳播，當員工使用 AI 工具時，就可能誤觸、造成企業損失。
- 存取權：若是員工使用未經企業認可的 AI 工具輔助工作，可能因為 AI 工具本身的缺陷造成企業資安漏洞。比如說，員工把企業的內部資料交給 AI 分析時，特定資料的存取權就不再受到完整控制。
- 合規：許多企業的營運需要符合 GDPR、ISO 等國際規範，但當員工擅自使用了未經審查的 AI 工具，就可能對企業造成法規遵守的風險。
- 資安意識：許多員工容易因為便利性而失去對 AI 工具的資安意識，過度相信 AI 提供的資訊就可能造成企業資安破口。
面對 AI 帶來的資安挑戰，企業該如何應對？
在 AI 盛行的現在，不僅僅是 DeepSeek，面對任何 AI 工具企業都應該謹慎以對，思想科技有下列幾項建議：
- AI 政策治理：企業應該建立內部的 AI 政策，讓員工知道哪些工具是可以於工作中使用的，以及使用的規範。 AI 政策應該要有明確、具體的內容，並且確實佈達各個單位。
- 提供員工定期的資安教育訓練：如同前段提及，員工往往因為便利而依賴 AI 工具，不小心就忽略了很多警訊，定期的員工資安教育訓練不只是為了符合法規要求，對於企業來說也是重要的資安防禦手段。
- 存取控制：面對潛在的資料外洩危機，企業的存取權控制應更加嚴密，除了 SSO、MFA 等措施，也可以考慮實施特權帳號管理（PAM）。另外， SASE/ CASB 也是一種確保員工裝置上面接觸到的網頁、使用的應用程式是符合企業政策規範的手段
>>> SASE 可以如何幫助企業？
>>> 了解思想科技的資安解決方案 （connect to 1 step form）
AI 的工具只會不斷推陳出新，希望提高工作效率、簡化作業的工作者們一定會想去嘗試，強硬的限制使用只是一時的控制手段，從企業資安防禦的各方面加強才能真正降低風險且應對未來趨勢。若企業有關於 AI 的資安需求，都歡迎聯絡思想科技專業顧問！
參考資料
最強開源AI 模型之一！DeepSeek-V3 GPU 時間比Llama 3 少 11 倍
DeepSeek 容易受到邪惡越獄攻擊！KPMG：三大資安舊包袱仍是隱憂
何, 佩珊. “深度解讀DeepSeek效應.” 商業週刊, 06 02 2025, pp. 62-68.
Which countries have banned DeepSeek and why? | Business and Economy News | Al Jazeera
