過去十年，應用程式安全團隊一直致力於加強面向外部的應用程式、API 安全、軟體供應鏈風險、CI/CD 控制以及雲端原生攻擊路徑的安全防護。然而，一種日益增長的安全威脅正來自一個被嚴重低估且缺乏防禦的來源：內部建構的無程式碼資產。
最初只是由幾個業務用戶創建的無程式碼應用程序，如今已發展成為數千個在企業系統中運行的自動化程式和人工智慧代理。它們可以提取外部資料、呼叫內部 API、分析文件、與其他代理程式協作，並即時採取行動。部署後，它們的行為會根據提示、上下文和存取權限動態變化。
從應用程式安全角度來看，這些代理不再是“工具”，而是應用程序，它們始終在線、擁有極高的權限，並且越來越不透明。它們已經產生了與外部入侵幾乎無法區分的安全事件模式。
內部自動化現在成了應用安全問題
傳統的應用安全模型是基於清晰的邊界：面向組織外部的程式碼會受到更嚴格的保護；內部工具則受到較寬鬆的審查，這種模型已經失效了。
由非程式設計師員工創建的AI代理程式無需經過傳統的軟體開發生命週期（SDLC），即可在財務系統、人力資源平台、客戶關係管理（CRM）工具和雲端基礎設施中執行業務邏輯。如果配置錯誤，它洩漏資料、破壞記錄或觸發未經授權的工作流程的速度甚至比許多外部攻擊者更快。
結果看起來像是安全漏洞，敏感資料洩露，審計追蹤不完整，根本原因分析十分困難。唯一的差別在於，「攻擊者」是內部人員，而且是按照既定程序執行的。
對於應用安全團隊而言，這模糊了內部風險和外部風險之間的界線。如果一個代理程式能夠跨越信任邊界傳輸資料、呼叫 API 或觸發狀態更改，那麼無論它是誰建構的，都應該納入安全範圍。
為什麼傳統的靜態控制會失效
大多數現有的應用安全控制措施都假定行為相對靜態，程式碼會經過審查，依賴項會經過掃描，API 會根據已知模式進行測試。
人工智慧代理不遵守這些規則
它們在運行時發揮作用，兩個配置完全相同的代理，基於輸入資料、提示訊息的變化或與其他代理的交互，可能會產生截然不同的結果。提示資訊的細微調整，其對執行路徑的影響可能與程式碼的修改一樣顯著。
當安全事件發生時，應用程式安全團隊常常會遇到一些工具無法解答的問題：代理程式做出了什麼決策？為什麼它呼叫了那個 API？哪些數據影響了最終結果？缺乏運行時洞察，事後分析就只能靠猜測了。這不僅是視野上的差距，更是應用安全的盲點。
持續發現是新的標準
許多應用程式安全項目仍依賴定期盤點來界定範圍，這種方法在微服務架構下已經不堪重負，在代理驅動的環境中更是徹底失效。代理程式快速出現，通常位於中央管道之外，而現有代理程式無需重新部署即可獲得新功能。資料流的變化無需程式碼更改，在這種環境下，靜態應用程式清單幾乎立即過時。
對於安全團隊而言，持續發現不再僅關乎可見性，而是關乎風險管控。如果直到代理程式引發安全事件才發現其存在，那麼你已經落後了。對代理程式的建立、存取和互動路徑的持續可見性已成為一項基本要求。
證券債務以機器速度成長
無程式碼平台已經導致安全債務迅速累積，而人工智慧代理則加速了這個過程。每個代理程式都會引入邏輯、權限和資料路徑，這些都必須加以保護。隨著時間的推移，組織會累積一層難以清點、更難以測試的自主行為。一旦發生故障，就會造成大規模的損失，導致受監管資料外洩、控制措施失效，或違反下游系統中固有的信任假設。
這對安全團隊來說是一種熟悉的模式：事件起源於管道之外，但最終卻落到了他們的責任範圍內，需要他們進行補救。
重新掌控
首先要認識到，人工智慧代理不再是實驗性工具，而應將其視為生產環境應用，並進行相應的管理。在安全事件發生之前，應將其納入應用安全運作模式。以下是一份實用清單：
- 預設情況下，應將 AI 代理視為應用程式。如果代理執行邏輯、存取 API 或行動數據，則無論其是透過程式碼、提示或視覺化工作流程建構的，都應屬於 AppSec 的範疇。
- 從組態審查轉向行為監控。靜態檢查固然必要，但遠遠不夠。應用程式安全團隊需要了解代理程式在執行時的行為，包括意外的API呼叫、資料移動和操作鏈。
- 評估代理程式時，不僅要檢查配置錯誤，還要檢查是否有漏洞。代理程式可能會引入常見的應用程式安全性問題，例如不安全的輸入處理、透過提示或連接器注入漏洞、不安全的 API 使用、對外部資料來源過度信任以及鍊式操作之間驗證不足等。這些漏洞可能被利用，直接導致資料外洩或未經授權的操作。
- 在代理層監控並強制執行最小權限原則，以縮小影響範圍。代理的權限應該比人類使用者更窄，而不是更寬。
- 對代理故障的回應應與生產事故類似。代理觸發的資料外洩或未經授權的操作應遵循與其他應用安全故障相同的事件回應流程，包括遏制、根本原因分析和控制更新。
人工智慧代理不僅不會引入新的風險類別，還會以機器速度放大現有的應用安全挑戰。為了避免與外部攻擊在外觀、感覺和升級方式上完全相同的「內部」故障，企業應該將人工智慧代理納入其應用安全計畫。
資料來源：https://www.helpnetsecurity.com/2026/01/09/ai-agents-appsec-risk/