2026年3月，舊金山再次成為網路安全領域的中心。數千名從業者、供應商和投資者齊聚莫斯康展覽中心參加RSA大會，而貫穿所有主題演講、小組討論和展位交流的，只有一個主題：智能體人工智慧。它不只是一種工具，更是一種行動主體。

從自主代碼生成到無需人工幹預即可啟動行動的決策系統，網路安全產業正步入一個新階段。諸如Mythos這樣的新一代人工智慧框架，能夠協調複雜的多步驟網路作戰，其發展既展現了這一轉變的前景，也揭示了其中的風險。

雲端安全聯盟預測，人工智慧驅動的同步攻擊將激增，並敦促防禦者以人工智慧對抗人工智慧。 OpenAI該公司已透過擴大其「網路安全可信任存取」計畫的規模來應對這項挑戰，該計畫旨在為數千名經過驗證的防禦者和數百個安全團隊提供支援。 Gartner 也印證了這個趨勢，預測人工智慧支出將在 2026 年成長 44%，並在 2029 年達到 47 兆美元。這遠遠超過其對 2026 年資訊安全和風險管理解決方案 2,380 億美元的預測。

智慧人工智慧的雙重用途現實

Mythos 等技術揭示了一個基本事實：有利於防禦者的能力同樣也有利於攻擊者。攻擊者已經開始利用人工智慧來實現以下目標：

✔  自主偵察和橫向移動

✔  即時適應防禦

✔  可擴展、低成本且人為因素最少的攻擊

這並非紙上談兵。早期的惡意人工智慧代理會探測環境、利用配置錯誤並模仿合法用戶。攻擊者不再需要控制每一個步驟，他們可以部署行為與真實身分相符的代理人。

「多添一項工具」的風險

網路安全領域的每一次重大變革都會催生出一波又一波的零散解決方案。結果可想而知：工具氾濫、資訊孤島化、操作複雜化。這些漏洞往往有利於攻擊者。人工智慧代理風險也正步其後塵。一些早期跡像已經顯現：

✔  AI安全態勢管理工具

✔  AI運行時保護平台

✔  人工智慧專用異常檢測引擎

✔  人工智慧治理解決方案

每個工具或許都有其價值，但增加工具數量反而會加劇摩擦。組織需要的不是更多的儀表板，而是更好地了解和控制在其環境中運行的實體（無論是人還是機器）。

在同期舉行的AGC網路安全投資者大會上，人工智慧專家和產業領袖達成了一個更務實的結論：企業應該將人工智慧視為一種身分識別。這種觀點摒棄了炒作，不再將人工智慧視為需要完全獨立安全架構的新型工具，而是將其置於既定的身分安全關鍵領域之中。因為從根本上講，智能體人工智慧的行為就像一個身分：

✔  它通過身份驗證（透過 API、令牌或憑證）

✔  它存取系統和數據

✔  它在環境中執行操作

✔  它可能會遭到破壞、濫用或失控。

一旦你接受了這一點，前進的道路就會變得更加清晰，也更加筆直。

身份威脅偵測作為基礎

如果將人工智慧視為一種身份，那麼身份威脅偵測和風險緩解方案就成為邏輯控制層面。這種方法著重於分析跨憑證和系統的行為。它將自適應驗證、行為分析、設備智慧和風險評分整合到一個統一的平台中。應用於人工智慧領域，這可以實現：

✔  行為視覺性用於檢測異常情況，例如異常存取、權限提升或資料外洩。

✔  基於風險的控制措施，用於調整存取權限、強制執行額外驗證或隔離可疑代理

✔  統一執行跨人類和機器身分的策略

✔  生命週期管理，防止出現孤立或未受管理的代理。

隨著流氓人工智慧代理的出現，無論其是否受到攻擊或出於惡意，基於身分的安全機制都能提供實際有效的防禦。它強制執行最小權限原則，持續驗證存取權限，偵測異常行為，並自動執行回應操作。這些功能在現代身分安全框架中已經存在，並且可以擴展到人工智慧領域，而無需引入新的資訊孤島。

結論

今年三月在舊金山舉行的討論清楚地表明了一點：網路安全的未來將由能夠獨立行動的實體塑造。其中一些是人，但很多並非如此。隨著 Mythos 等技術不斷拓展人工智慧的邊界，業界也必須相應地轉變其防禦思維。最有效的策略或許也是最簡單的：如果它能夠採取行動，就應該將其視為一個獨立的身份。

透過將 AI 安全性融入身分威脅偵測和風險緩解框架，組織可以抵禦惡意代理，而無需在已經複雜的防禦體系中添加另一個分散的工具。

資料來源：https://www.securityweek.com/why-cybersecurity-must-rethink-defense-in-the-age-of-autonomous-agents/