關閉選單
詐欺:由 Gen-AI 驅動的成長產業
隨著生成式人工智慧大規模實現“欺詐即服務”,傳統的防禦機制正在崩潰。下一波網路犯罪將更快、更智能,而且合成性極強,令人毛骨悚然。
 

核心觀察

2025年7月18日,SecurityWeek 發布由 Kevin Townsend 撰寫的專題文章指出,生成式 AI 正重塑網路詐騙模式,導致詐騙產業進化成「fraud-as-a-service(FaaS)」,具備高度自動化、合成化與規模化特性 SecurityWeek+8SecurityWeek+8X (formerly Twitter)+8
文章引用 Proof 安全公司 CEO Pat Kinsel 的話指出:「Fraud today doesn’t look like it did five years ago. It’s synthetic, it’s autonomous, and it’s scaling」SecurityWeek。此觀察揭示詐騙者已不再依賴人工作業,而是透過 AI 自動選取目標、生成攻擊內容、模擬身分,進行大規模詐騙運作。
 

AI 支援下的詐騙工具鏈化

雖目前為不同服務提供者各自分工,本文預測未來會整合形成完整詐騙平台,駭客可一鍵購買、操作整條詐騙流程。文章將詐騙流程拆解為三大服務:
  1. 資料販售(Full‑z & 日誌):駭客先販售已蒐集之受害者資料,包括身分、帳密等。
  2. 深偽技術知識:售賣如何生成 deepfake 聲音/影片、偽造政府證件的教學。
  3. 帳號「養老」服務:駭客利用 AI 自動創建並維護假帳號,以繞過 KYC 檢測SecurityWeek


AI 強化詐騙的典型應用方式

  1. 目標挑選自動化:AI 可分析數十萬筆 full-z,快速鎖定高價值目標,提升效率SecurityWeek
  2. 生成合成音 / 影:deepfake 聲音已達可信水準,未來將延伸至深偽影片,侵害通話和會議等溝通安全SecurityWeek
  3. 帳戶養老機制:AI 自動開設銀行、郵件等帳號並長期維護,使詐騙資金流入隱蔽可靠的平台SecurityWeek

 

詐騙規模與財務風險

根據 Deloitte 的預估,生成式 AI 於 2027 年將使美國詐騙損失達到 400 億美元,過去三年年複合成長率約 32%。此外,2024 年FTC報告指出,因詐騙造成的損失已逾125億美元,符合 Treasury 報告指出銀行已難以應付 AI 驅動詐騙攻擊。

 

防禦挑戰與策略重塑

  1. 導入 AI 驅動的防詐系統:利用生成式 AI 模型偵測合成語音/影像與自動化信件,並配合行為分析模組。
  2. 強化多因素與生物識別驗證:AI造假的頭像、語音將竭力欺騙驗證流程,企業須加上硬體金鑰或動態行為驗證。
  3. 帳戶生命週期管理:建立帶風險標籤的黑客帳號檢測流程,封鎖異常「養老」行為。
  4. 跨機構情資交流:依賴銀行、公部門、資安社群分享攻擊樣貌與 IOA/IOD,共同阻斷詐騙平台發展。
  5. 教育與演練機制:針對深偽影片、AI聲音進行員工認知培訓,並強化組織對可疑流程的即時響應方式。


防禦轉型:AI vs AI 的戰爭架構

文章與學術研究皆指出,AI 驅動詐騙攻防已進入一場「AI 對抗 AI」戰爭 。未來偵測系統若無AI能力,將完全失去競爭力;而 AI 驅動偵測若缺乏情資、訓練,也無法抵扎。未來資安架構將依賴:

  1. 自動化威脅偵測:使用機器學習從大量行為與內容中識別詐騙模式。
  2. 雙向防禦學習:AI在完成攻擊前即偵測並自學對抗方式。
  3. 跨公司共用情資平台:如 Google GSE、銀行聯盟等。

 

企業行動建議

SecurityWeek 的報導清楚指出,一場以「AI + FaaS」為架構的詐騙革命,正席捲全球。企業與金融機構必須快速升級認識與戰術:

  1. 評估已有防禦架構是否 AI-ready
  2. 導入 AI 增強偵測工具,用於識別深偽內容與行為異常
  3. 結合多模式驗證機制:語音+影像+行為, 確保帳號使用者真實。
  4. 強化帳戶養老識別與 KYC 管控
  5. 推動跨業情資交換,掌握詐騙服務平台發展狀態
資料來源:https://www.securityweek.com/fraud-a-growth-industry-powered-by-gen-ai/