下一波人工智慧網路攻擊將會是什麼樣子——以及如何生存？
AI的下一波浪潮如何重塑資安防禦，身分識別成為最後防線
人工智慧（AI）技術的迅猛發展正在深刻改變各行各業的運作模式，然而，這股浪潮同時也為網路安全領域帶來了全新的挑戰。資安巨頭Okta的專家Karl Henrik Smith在一場名為「AI的新攻擊面：為何身分識別是最後防線」的網路研討會中，深入剖析了由AI驅動的新型態網路威脅，並強調在未來資安戰場上，身分識別將扮演至關重要的角色，提醒我們必須重新審視並強化現有的資安防禦策略。
AI驅動的新型態威脅：傳統防線的失靈
傳統的資安模型主要仰賴在網路邊界（network edge）建立防火牆、入侵偵測系統等防禦措施，試圖阻止外部攻擊者進入企業內部網路。然而，AI的廣泛應用正在瓦解這一防禦邏輯。攻擊者利用AI技術，能以前所未有的速度與精準度發動攻擊，創造出更難以辨識的新型威脅：
深度偽造（Deepfake）詐騙： 惡意行為者利用AI生成極其逼真的影像和聲音，模仿企業高層或內部人員進行詐騙，例如偽造視訊會議或語音訊息，要求員工轉帳或洩露機密資訊。這種攻擊能夠輕易繞過人為審查，對企業造成巨大損失。
惡意機器人（Bots）規避審查： 傳統的機器人檢測機制主要依賴於固定的行為模式。然而，AI驅動的惡意機器人能夠模擬人類行為，甚至能夠透過自然語言處理（NLP）技術來回應，從而繞過常見的人機驗證（CAPTCHA）和審核程序，進行大規模的自動化攻擊。
合成身分（Synthetic Identities）： 這是最令人擔憂的新興威脅之一。攻擊者利用AI技術結合真實與虛假資料，創造出看似完全合法的新身分。這些「合成人」可以用來開設假帳戶、申請貸款、進行詐騙，其逼真程度足以欺騙多數的身分驗證系統，使得傳統的背景調查和身分查核變得困難重重。
為何身分識別是最後防線？
Smith指出，這些由AI驅動的新威脅使得企業的資安防禦重心從「網路邊界」轉移到了「登入畫面」。因為無論是人為攻擊者還是AI驅動的非人攻擊者，他們最終的目標都是獲取一個有效的身分憑證，以存取企業的應用程式和資料。
在這種新常態下，企業必須將身分識別視為整個資安策略的核心，因為它代表了存取企業所有數位資產的第一道關卡，同時也是最後一道防線。一個強健的身分識別防禦體系，不僅能保護員工帳號，更能有效防範非人身分（如AI機器人）的惡意行為。
打造「身分安全織網」：應對AI威脅的實用策略
為了應對這些挑戰，研討會提出了具體的實用方案，建議企業建立一個強韌的「身分安全織網」（identity security fabric）：
實施零信任架構（Zero Trust Architecture）： 企業不應再盲目信任任何內部或外部使用者，必須在每一次存取請求時，都進行嚴格的身分驗證和授權檢查。
強化多因素驗證（MFA）： 部署更先進的多因素驗證方案，以防止駭客竊取單一密碼後輕易得逞。
擁抱「安全設計」（Secure-by-Design）原則： 在開發新應用程式時，應將資安考量納入設計初期，特別是與AI相關的應用，應從一開始就考慮如何確保身分識別的安全性。
持續監控與分析： 運用AI來對抗AI，透過機器學習來分析身分存取行為，及時偵測異常活動並自動化回應。
總結而言， AI的下一波浪潮正在加速資安威脅的演變。企業已無法僅靠傳統的邊界防禦來確保安全。Okta的這場研討會明確指出，身分識別將是未來資安防禦的關鍵核心。企業應立即採取行動，從策略上將身分識別從輔助角色提升為防禦主體，藉由建立堅實的身分安全織網，才能有效抵禦不斷變化的AI攻擊面，保護企業最重要的數位資產。
資料來源：https://thehackernews.com/2025/08/webinar-what-next-wave-of-ai.html
探討Okta資安專家Karl Henrik Smith所主持的網路研討會「AI的新攻擊面：為何身分識別是最後防線」。隨著AI技術的快速發展，傳統資安防禦面臨前所未有的挑戰。