關閉選單
人工智慧代理正成為權限提昇路徑

人工智慧代理已迅速從實驗性工具發展成為安全、工程、IT 和維運等領域日常工作流程的核心組件。最初作為個人生產力輔助工具(例如個人程式碼助理、聊天機器人和副駕駛)的人工智慧代理,如今已演變為嵌入關鍵流程的共享型、組織級代理。這些代理人可以協調跨多個系統的工作流程,例如:

  1. 人力資源代理:根據人力資源系統更新,在 IAM、SaaS 應用程式、VPN 和雲端平台中配置或取消配置帳戶。
  2. 變更管理代理:負責驗證變更要求、更新生產系統中的配置、在 ServiceNow 中記錄審批情況以及在 Confluence 中更新文件。
  3. 客戶支援代理從 CRM 檢索客戶上下文:檢查計費系統中的帳戶狀態,觸發後端服務的修復,並更新支援工單。

為了大規模地創造價值,組織級人工智慧代理被設計為服務眾多使用者和角色。與個人用戶相比,它們被授予更廣泛的存取權限,以便存取高效運作所需的工具和資料。

 

這些智慧代理的出現確實帶來了生產力的顯著提升:更快的故障排查、更少的人工幹預和更精簡的操作流程,這些早期成果也伴隨著隱性成本。隨著人工智慧代理的功能日益強大、整合度不斷提高,它們也逐漸成為存取控制的中介。它們廣泛的權限可能會掩蓋實際的存取主體和存取權限。許多組織在追求速度和自動化的同時,卻忽略了由此帶來的新的存取風險。

組織代理背後的訪問模型#

組織代理通常設計為跨多個資源運行,透過單一實作服務於多個使用者、角色和工作流程。這些代理並非綁定於單一用戶,而是作為共享資源,可以代表多個用戶回應請求、自動化任務並協調跨系統操作。這種設計使得代理程式易於部署,並可在整個組織內擴展。

為了實現無縫運行,代理程式依賴共用服務帳戶、API 金鑰或 OAuth 授權來驗證其所交互系統的身份驗證。這些憑證通常長期有效且集中管理,使代理程式能夠在無需使用者干預的情況下持續運作。為了避免摩擦並確保代理程式能夠處理各種請求,權限通常會被廣泛授予,涵蓋的系統、操作和資料量遠遠超出單一使用者通常的需求。雖然這種方法最大限度地提高了便利性和覆蓋範圍,但這些設計選擇可能會無意中創建強大的存取中介,從而繞過傳統的權限邊界。

打破傳統門禁管制模式#

組織代理通常擁有遠超過個人使用者的權限,使其能夠跨越多個系統和工作流程。當使用者與這些代理互動時,他們不再直接存取系統;而是發出請求,由代理人代表他們執行。這些操作以代理的身份運行,而非用戶的身份。這打破了傳統的存取控制模型,在傳統的模型中,權限是在使用者層級強制執行的,權限受限的使用者可以透過代理間接觸發操作或檢索他們無權直接存取的資料。由於日誌和稽核追蹤會將活動歸因於代理程式而非請求者,因此這種權限提升可能在缺乏清晰可見性、問責機製或策略執行的情況下發生。

組織代理可以悄無聲息地繞過存取控制#

代理驅動的權限提升風險通常隱藏在日常工作流程中,而非公開濫用。例如,一個對財務系統存取權限有限的使用者可能與組織內的人工智慧代理互動以「匯總客戶績效」。該代理商擁有更廣泛的權限,可以從計費、客戶關係管理和財務平台提取數據,並傳回用戶無權直接查看的資訊。

在另一個場景中,一位沒有生產環境存取權限的工程師請求人工智慧代理「修復部署問題」。此代理程式會查看日誌,修改生產環境中的配置,並使用其自身提升的憑證觸發管道重新啟動。該用戶從未接觸過生產系統,但生產環境卻被以他們的名義進行了更改。

在這兩種情況下,都沒有違反任何明確的策略。代理已獲得授權,請求看起來合法,並且現有的身份和存取管理 (IAM) 控制在技術上得到了執行。然而,由於授權是在代理級別而非用戶級別進行評估,因此訪問控制實際上被繞過,從而導致意外且通常不易察覺的權限提升。

人工智慧時代傳統存取控制的局限性#

傳統的安全控制措施圍繞著人類使用者和直接系統存取構建,因此並不適用於代理介導的工作流程。身分和存取管理 (IAM) 系統是基於使用者身分強制執行權限,但當操作由 AI 代理執行時,授權評估是基於代理的身份,而非請求者的身分。因此,用戶層級的限制不再適用。日誌記錄和審計追蹤會將活動歸因於代理程式的身份,從而掩蓋操作的發起者及其原因,進一步加劇了這個問題。使用代理後,安全團隊失去了強制執行最小權限原則、偵測濫用行為或可靠地確定意圖的能力,導致權限提升可以在不觸發傳統控制措施的情況下發生。缺乏歸屬資訊也會使調查更加複雜,減緩事件回應速度,並使安全事件發生期間難以確定意圖或範圍。

揭示以代理為中心的存取模型中的權限提升問題#

隨著組織內部的人工智慧代理承擔跨多個系統的維運職責,安全團隊需要清楚了解代理身分如何對應到敏感資料和維運系統等關鍵資產。了解每個代理程式的使用者是誰,以及使用者權限與代理程式的更廣泛存取權限之間是否存在差距至關重要,因為這些差距可能導致意外的權限提昇路徑。如果缺乏這種背景訊息,過度存取可能一直隱藏且不受制約。安全團隊還必須持續監控使用者和代理權限的變化,因為存取權限會隨著時間的推移而不斷演變。這種持續的可見性對於識別悄悄引入的新權限提昇路徑至關重要,可以防止這些路徑被濫用或導致安全事件。

利用 Wing Security 確保代理商採用#

人工智慧代理正迅速成為企業中最強大的角色之一。它們能夠自動化複雜的工作流程,跨系統移動,並以機器速度代表眾多使用者執行操作。然而,當代理被過度信任時,這種強大的力量就會變得危險。廣泛的權限、共享的使用以及有限的可見性,都可能悄無聲息地將人工智慧代理變成權限提升的途徑和安全盲點。

安全部署智能體需要可視性、身分感知和持續監控, Wing 透過持續發現環境中運行的 AI 智能體、它們的存取權限以及使用方式,提供所需的可視性。 Wing 將智能體存取權限對應到關鍵資產,將智能體活動與使用者情境關聯起來,並偵測智能體權限超出使用者授權範圍的情況。借助Wing,組織可以自信地採用 AI 代理,在不犧牲控制、問責或安全性的前提下,釋放 AI 自動化和效率。

資料來源:https://thehackernews.com/2026/01/ai-agents-are-becoming-privilege.html
 
分析 AI 代理程式如何從生產力工具演變為企業安全漏洞,隨著 AI 深度集成至核心工作流,其廣泛的系統存取權限與身份混淆特性,正成為攻擊者規避傳統安全控制、實現特權提升的新興路徑。