世界經濟論壇與畢馬威合作發布了一份報告，探討人工智慧（AI）如何重塑網路防禦，並強調其全部價值取決於戰略部署、強有力的治理和人工監督。這份題為《賦能防禦者：人工智慧助力網路安全》的報告提出了高階主管和首席資訊安全官面臨的關鍵問題，並初步闡述了智慧體人工智慧的前景和風險。報告指出，企業應將人工智慧的採用納入企業策略，確保流程、資料、基礎設施、技能和治理等方面的準備就緒，透過結構化的試點專案嚴格測試解決方案，並在部署成熟後持續擴展、監控和優化效能。

世界經濟論壇網路安全中心負責人兼執行委員會成員阿克謝·喬希和畢馬威合夥人兼全球網路與技術風險主管洛朗·戈比在白皮書中寫道：「這份白皮書探討了人工智慧技術在網路安全生命週期中的應用，並藉鑑了世界經濟論壇合作夥伴組織的實際案例。它概述了高階主管和首席資訊安全長（CISO）為有效和動態安全和軟體領域必須採取的實際

他們補充說：「成功取決於關鍵的基礎要素，包括強有力的管理層支持、高品質的數據、技能嫻熟的員工隊伍和一體化的基礎設施。隨著自動化日益普及，保留人類的判斷力和專業知識對於降低潛在的系統脆弱性仍然至關重要。」

世界經濟論壇意識到，過去需要數週才能完成的工作，如今只需幾分鐘即可完成，這降低了技術門檻，並極大地擴大了網路攻擊的規模和影響。在此背景下，人工智慧已成為現代網路安全的核心推動力。其價值不僅在於自動化，更在於增強人類的認知和專業知識，加快檢測和決策速度，並在技術、營運和治理等各個層面提升組織的應對能力。

報告進一步指出，現代網路威脅的規模和速度正在超越傳統防御手段，迫使各組織重新思考如何保護日益互聯的系統。人工智慧已從輔助工具轉變為核心戰略能力，幫助安全團隊應對複雜性、縮短回應時間並滿足日益增長的監管要求。它還有助於重新平衡長期以來不平衡的攻防局面。攻擊者只需找到一個漏洞，而人工智慧可以讓他們更快做到這一點。然而，防禦者可以利用人工智慧分析大量內部數據，更精準地確定風險優先級，並重新奪回一些戰略優勢。

同時，數位環境變得過於複雜，人工監管已無法勝任。不斷擴大的攻擊面和隱藏的漏洞需要持續的即時分析，而人工智慧恰好擅長處理這類問題。它可以關聯跨系統訊號，識別配置錯誤，並以遠超人類能力的規模揭示威脅。這一點至關重要，因為安全團隊面臨日益增長的營運壓力，警報疲勞和重複性任務導致普遍的職業倦怠。人工智慧透過自動化日常工作和過濾噪音來減輕這種負擔，使團隊能夠專注於更高價值的主動防禦。

資源限制帶來了另一重壓力。許多組織數位化擴張的速度超過了其招募或資助網路安全團隊的速度。人工智慧透過擴展營運規模和增強有限的人力專業知識，有助於彌合這一差距。同時，監管要求也在不斷提高。《數位營運彈性法案》( DORA ) 和NIS2 指令等框架要求更快地偵測、通報和回應安全事件。人工智慧透過加速這些流程並自動化監控和文件記錄來支援合規性，而不會增加營運成本。

然而，依賴人工智慧也存在風險。過度依賴自動化決策可能會造成盲點，並在系統故障時削弱人類專業知識的角色。要達到穩健的應對，需要平衡各方因素。企業需要將人工智慧與人類判斷結合，定期測試故障場景，並建立安全保障措施，即使人工智慧系統遭到破壞或不可用，也能確保營運持續進行。

在投資人工智慧網路安全之前，企業需要先明確其預期帶來的業務成果。人工智慧應服務於既定的優先事項，例如營運彈性、合規性、客戶信任和成本效益，而不是為了應用而應用。如果缺乏這種清晰的目標，相關專案往往會偏離方向，難以獲得高階主管支持，最終也無法證明其投資的合理性。首席資訊安全長 (CISO) 在將人工智慧與業務價值掛鉤方面發揮核心作用，他們負責將部署與核心目標聯繫起來，評估人工智慧的必要性（而不是更簡單的自動化），並設定關於其功能和風險的合理預期。

報告指出，成功取決於將技術進步轉化為對領導層至關重要的指標，例如降低風險敞口或縮短恢復時間，同時透過有針對性的用例展現早期、可衡量的影響。與高階主管持續溝通至關重要，這有助於確認優先事項、與風險承受能力保持一致，並將人工智慧定位為提升安全性和業務績效的策略工具。

要在網路安全領域部署人工智慧，組織需要確保營運、技術、資料、技能和治理等各方面都做好了準備。首席資訊安全長 (CISO) 首先應確認安全流程穩定、文件齊全且可重複，以便人工智慧能夠增強而非掩蓋安全漏洞。技術環境必須支援與現有工具的無縫集成，包括安全地處理機器身份。資料準備至關重要，需要準確、完整且結構良好的資料集，因為資料薄弱會影響最終結果。

同時，團隊需要具備管理人工智慧生命週期的技能，並接受持續的培訓。隨著人工智慧應用的擴展，必須建立健全的治理框架，明確問責制、風險監管和防護措施。從策略層面來看，組織應專注於與核心風險相關的少數高影響力用例，同時根據速度、控制、成本和可擴展性權衡自建與購買的決策，許多組織選擇混合方法。最終，成功取決於培養一種人工智慧就緒的文化，在這種文化中，團隊信任人工智慧，並能有效地將其融入日常安全營運中。

世界經濟論壇指出，在網路安全領域擴展人工智慧應用，需要高階主管確信創新不會以犧牲穩定性或控制為代價。分階段實施至關重要，需要基礎設施和資料環境的支持，以確保能夠處理人工智慧工作負載，同時避免引入安全風險或意外成本。隨著人工智慧模型效能隨時間推移而下降，組織必須持續監控其效能，檢測偏差，並改進演算法和資料管道，以保持其有效性。

明確的所有權和適應性治理對於管理不斷變化的風險至關重要，而透明的報告和可衡量的結果有助於維持高階主管的信任。同時，變革管理和有針對性的培訓可確保團隊能夠有效地採用和擴展人工智慧。持續參與知識共享網路並持續評估新興能力可進一步增強韌性，使組織能夠根據業務目標改善和擴展人工智慧部署。

人工智慧代理的部署速度可能遠遠超出監管機制的跟進速度，導致決策和行動缺乏明確的問責機制。傳統的安全控制措施並非為這種程度的自主性和規模而設計，因此單獨使用不足以應對。為了應對這種轉變，組織需要針對智能體人工智慧量身定制的新型防護措施和治理模型，將技術控制與更強有力的監督和倫理框架相結合，以確保這些系統安全且如預期運作。

世界經濟論壇總結指出，人工智慧已成為現代網路安全的核心推動力，其驅動力源於威脅數量、速度和複雜性的不斷增長，這些威脅已超越了傳統防禦手段。對於策略性部署人工智慧的組織而言，人工智慧可以增強人類的專業知識，實現安全營運的自動化和加速，並有助於應對網路安全領域的一些結構性挑戰，例如人才短缺、資源限制和日益嚴格的監管要求。

報告補充道，在全面部署之前，人工智慧解決方案應透過結構化的試點計畫進行驗證，並設定明確的成功標準。部署後，持續的監控和改進仍然至關重要，隨著威脅和技術的演變，風險和保障措施也需要定期重新評估。

展望未來，智能體人工智慧使自主系統能夠在威脅完全顯現之前就偵測到並做出回應。儘管如此，組織必須根據風險和行動的可逆性，謹慎地確定適當的人工監督級別，從人機協同到完全自主運作。同時，智能體人工智慧也引進了新的風險，需要在智能體生命週期的各個階段設定強而有力的保障措施。

資料來源：https://industrialcyber.co/ai/wef-maps-path-to-ai-driven-cybersecurity-calls-for-structured-deployment-continuous-monitoring-human-control/