Varonis 宣布Varonis Atlas正式上線，這是一個端到端的 AI 安全平台，可協助組織查看和控制整個企業的 AI。
Atlas 是唯一涵蓋整個 AI 安全生命週期的平台，從發現和態勢管理到運行時保護和合規性，所有功能都整合在一個解決方案中。它可以連接到企業建置或運行的任何 AI 系統：託管 AI 平台、客製化生命週期管理 (LLM)、智慧體框架、聊天機器人和嵌入式 AI。而且，由於 Atlas 建構於 Varonis 資料安全平台之上，因此它能夠提供任何獨立 AI 安全工具都無法比擬的資料上下文資訊。
Varonis 執行長兼聯合創始人 Yaki Faitelson 表示：「人工智慧徹底顛覆了企業安全模式。不再是人類透過使用者介面點擊操作，而是智慧體直接存取資料——這使得資料和人工智慧安全成為重中之重。如果您無法了解您擁有哪些人工智慧系統以及它們可以存取哪些敏感數據，您就無法安全地大規模使用人工智慧。Varonis Atlas 為企業提供了一條通往安全可靠人工智慧的最快途徑。」
通往安全可靠人工智慧的最快途徑
人工智慧代理、副駕駛和低階邏輯模型（LLM）如今已嵌入企業工作流程中。它們能夠以機器速度讀取、寫入資料並執行操作。然而，大多數組織並不清楚自身擁有哪些人工智慧系統，這些系統可以存取哪些資源，以及它們是否符合新興法規的要求。
Gartner® 近期發布了一份報告《人工智慧安全的未來在於保護代理操作，而非提示資訊》。該報告的分析顯示，超過 50% 的組織已經開始部署或計劃部署人工智慧代理。此外，各組織也積極建構以人工智慧為基礎的系統。
該報告預測，隨著越來越多的企業軟體依賴代理程式編碼工具，30% 的組織將使用 AI 安全平台來保護 AI 原生軟體工程中的代理程式開發。隨著企業部署更多自主和智慧化的AI系統，風險也隨之增加：
✓ 代理程式以機器速度持續讀取、寫入、建立和修改資料。
✓ 資料存取權限通常過於寬泛且理解不足。
✓ 小小的設定錯誤都可能導致大規模資料外洩或合規罰款。
這就是為什麼人工智慧安全必須植根於資料安全，以及Varonis Atlas存在的意義。 Atlas能夠保護您使用人工智慧建置和運行的一切。讓我們深入了解它的各項功能。
Atlas AI 安全能力
- AI庫存和影子AI
Varonis Atlas 可持續發現企業內所有 AI 系統，包括已授權工具、客製化代理商、嵌入式 AI 以及未經正式批准使用的影子 AI。透過掃描雲端帳戶、程式碼庫、AI 平台和 SaaS 使用情況，Atlas 建立了一個動態清單，展示了 AI 的存在、連接方式、可存取的資料以及可執行的操作——這為所有其他 AI 安全控制措施奠定了基礎。
- 超越表面發現： Atlas 不僅清點 LLM 端點或聊天應用程序，還清點代理、模型、工具、MCP 伺服器、依賴項和支援基礎設施。
- 透過上下文揭示影子 AI：發現的 AI 資產與用戶、資料存取和活動上下文相關聯，使影子 AI 可以立即採取行動，而不僅僅是可見。
- 人工智慧安全態勢管理（AI-SPM）
Atlas AI 安全態勢管理持續評估整個 AI 堆疊中的漏洞、配置錯誤、敏感資料外洩和代理風險。它分析程式碼、提示、模型、依賴關係和配置，以發現特定的安全性問題，並將其直接關聯到受影響的 AI 資產和資料。這種全面的方法使團隊能夠在 AI 系統投入生產或擴展之前消除風險。
- 資料感知姿態，而不僅僅是模型檢查：透過Varonis 資料安全平台的資料敏感性和存取上下文，豐富了調查結果，從而揭示了真正的業務風險。
- 專為企業規模而打造： AI-SPM 涵蓋雲端平台、代理框架、自訂模型和第三方 AI，而非單一的開發環境或用例。
- 人工智慧滲透測試
Atlas 透過對即時 LLM 端點執行對抗性提示和動態攻擊，主動對 AI 系統進行壓力測試。只有透過運行時分析，團隊才能發現所有潛在問題。因此，這些測試模擬了諸如提示注入、越獄和策略繞過嘗試等真實世界的威脅，並將不安全行為記錄為與受影響的模型、代理和配置直接相關的特定安全發現。
- 即時動態測試：滲透測試針對真實的生產終端運行，而不是離線模擬或靜態規則檢查。
- 下游執行：滲透測試結果直接影響運行時防護措施和姿態策略，從而形成從測試到保護的閉環。
- AI運作時防護措施
Atlas 透過位於即時請求路徑中的 AI 網關來實施即時防護措施，該網關會在請求到達模型或下游系統之前檢查提示、回應和代理操作。這些控制措施可以防止敏感資料外洩、阻止惡意或違規行為，並產生即時警報——而無需更改底層 AI 應用程式或模型。
- AI 感知的封鎖與策略執行： Guardrails 瞭解執行流程、代理工具和間接洩漏路徑，而不僅僅是簡單的模式匹配。
- 客戶擁有的資料平面：提示、回應和遙測資料保留在客戶環境中，支援資料駐留和主權要求。
- 人工智慧合規與治理
Atlas 透過持續將人工智慧系統與歐盟人工智慧法案和 NIST 人工智慧風險管理框架等監管框架進行映射，實現了人工智慧治理的落地。該平台產生可用於審計的報告，維護溯源和透明度記錄，並追蹤風險評估和補救狀態，從而將合規性從一次性工作轉變為持續的、以證據為基礎的過程。
- 基於真實的系統證據：合規性報告基於即時 AI 清單、血緣關係圖、活動日誌和安全發現，而不僅僅是問卷調查。
- 與安全控制統一：治理與發現、態勢、滲透測試和運行時執行直接相關，避免了 GRC 工具的碎片化。
- 人工智慧第三方風險管理（AI TPRM）
Varonis Atlas 將 AI 安全性從內部建構的系統擴展到企業透過其供應鏈使用的 AI 服務、模型和平台。它透過將第三方 AI 供應商的 AI 清單或 AI 物料清單 (AIBOM) 與供應商問卷調查結果相結合，持續評估這些供應商，從而了解外部 AI 系統如何處理數據，以及可能因特定依賴關係而產生的風險。
這使得組織能夠在統一的人工智慧安全生命週期中識別、追蹤和補救第三方人工智慧風險。
- 持續性而非時間點：第三方人工智慧風險會隨著供應商的投入、依賴關係或行為的變化而不斷重新評估，而不是依賴靜態審查。
- 與 AI 庫存整合：第三方 AI 系統與內部 AI 資產一起跟踪，提供自動化風險分析和可視性。
- 人工智慧活動監測
Atlas AI 活動監控透過擷取提示、回應、代理操作、資料存取和防護決策，提供端到端的 AI 系統生產環境行為視覺性。借助客戶自主的可觀測性層和集中式儀表板，安全和治理團隊可以了解 AI 的使用方式，檢測異常行為，並基於跨模型、代理和工具的完整執行上下文調查事件。
- 全面執行可見性：監控範圍涵蓋提示、回應、代理工具呼叫和資料存取，而不僅僅是使用者聊天記錄或模型輸出。
- 客戶擁有的遙測資料：所有 AI 活動日誌都保留在客戶的環境中，支援可審計性、資料駐留和取證調查。
- 人工智慧檢測與回應（AIDR）
Varonis Atlas 透過即時識別模型、代理、工具和資料流中的惡意、不安全或不合規的 AI 行為，提供 AI 偵測與回應 (AIDR) 功能。當偵測到諸如提示注入或越獄嘗試等威脅時，Atlas 會產生可操作的警報，並在必要時在線阻止相關活動，並與 SIEM 和 SOAR 平台集成，以支援快速調查和回應。
- AI原生威脅偵測： AIDR 理解 AI 特有的攻擊技術和智慧體行為，而不是依賴傳統的應用程式安全訊號。
- 與資料安全統一：偵測結果會根據資料敏感度和存取情境進行增強，使團隊能夠根據實際業務影響確定事件的優先順序。
安全的AI及其背後的數據
人工智慧安全不能孤立存在或採用零散的解決方案。它需要一種統一的方法，將人工智慧所依賴的數據連接起來。隨著組織規模擴大人工智慧，其面臨的風險也隨之增加。唯一的出路是製定既了解人工智慧行為方式又了解其可存取資料的安全策略。
「大多數人工智慧安全工具都各自獨立，缺乏數據感知能力。它們可以清點你的人工智慧系統或監控提示訊息，但無法了解人工智慧正在存取哪些敏感數據，也無法控制它如何使用這些數據。這才是真正的風險，而這正是 Atlas 和 Varonis 數據安全平台共同解決的問題。”
Ron Bennatan，Varonis 人工智慧和資料安全策略副總裁，AllTrue.ai 共同創辦人，Guardium（已被 IBM 收購）和 jSonar（已被 Imperva 收購）的創建者
Varonis Atlas現已上市。您可以觀看下方演示視頻，或申請免費試用，全面體驗 Atlas 的AI 資產清點、姿態管理、安全測試、運行時防護和合規性報告功能。
資料來源：https://www.bleepingcomputer.com/news/security/varonis-atlas-securing-ai-and-the-data-that-powers-it/