美國網路安全與基礎設施安全局 (CISA) 與包括德國、加拿大、法國、義大利、日本、英國和歐盟在內的七國集團 (G7) 夥伴共同發布了新的聯合指南,旨在加強人工智慧供應鏈的透明度和網路安全。文件指出,所列的最低要素是 G7 專家共識的成果,並為人工智慧開發人員和部署人員如何實施人工智慧供應鏈營運手冊 (AI-focused Software Bill of Materials) 提供了切實可行的指導,以提高整個供應鏈的透明度和網路安全,從而促進人工智慧治理。
這份名為《人工智慧軟體物料清單—最低要素》的指南由七國集團網路安全工作小組制定,旨在幫助公共和私營部門組織確定人工智慧軟體物料清單中應包含的核心資訊。該指南由德國聯邦資訊安全辦公室(BSI)、義大利國家網路安全局(ACN)、法國國家網路安全局(ANSSI)、加拿大通訊安全局(CSE)、美國網路安全和基礎設施安全局(CISA)、英國國家網路安全中心(NCSC)和日本國家網路安全局(NCO)共同發布,並與歐盟委員會合作完成。
G7 的「人工智慧叢集系統資產管理框架 (SBOM for AI clusters)」由七個核心集群組成,包括元資料、模型、資料集屬性 (DP)、系統級屬性 (SLP)、關鍵績效指標 (KPI)、安全屬性 (SP) 和基礎設施。在該框架中,元資料集群包含與人工智慧 SBOM 本身相關的信息,而其餘集群則被視為更廣泛的人工智慧供應鏈透明度和網路安全模型中同等重要的組成部分。
該文件擴展了七國集團 (G7) 於 2025 年 6 月發布的關於人工智慧系統物料清單 (SBOM) 的共同願景,並概述了旨在提高人工智慧系統組件、依賴關係和風險可見性的基線建議。借鑒現有的 SBOM 概念,人工智慧 SBOM 包含一個結構化的記錄或清單,詳細列出了建構人工智慧系統所使用的各種組件及其供應鏈關係。
結構化記錄被劃分為不同的群集。每個集群包含“元素”,即捕捉人工智慧系統組件獨特特徵的資訊。人工智慧系統物料清單 (SBOM for AI) 的目標是透過組件及其依賴關係的透明度和可追溯性來幫助保障人工智慧系統和供應鏈的安全。與系統物料清單 (SBOM) 類似,人工智慧系統物料清單 (SBOM for AI) 也扮演著「成分清單」的角色,為組織提供可用於確保有效 IT 安全流程的資料。
軟體物料清單 (SBOM) 相當於軟體的“原料清單”,幫助組織更了解軟體供應鏈,並做出更明智的網路安全和風險管理決策。新指南認識到,人工智慧系統比傳統軟體引入了更多複雜性,因此除了現有的 SBOM 標準之外,還建議添加專門針對人工智慧環境的補充最低要素。
雖然這些建議是自願性的,並非旨在面面俱到,但該指南反映了七國集團網路安全專家的共識,並有望隨著人工智慧技術的快速發展而不斷完善。人工智慧安全營運手冊(SBOM)能夠建立有助於追蹤漏洞和弱點並降低網路安全風險的資訊。
元資料群集 (Metadata Cluster Elements) 旨在捕捉與人工智慧系統本身的 SBOM 相關的信息,而非人工智慧系統內的各個組件或子元素的資訊。與特定組件和子元素相關的詳細資訊在其各自的集群中單獨處理。元資料群集包含的資訊包括:SBOM 作者、SBOM 版本、資料格式名稱和版本、作者簽名、工具名稱和工具版本、生成上下文、時間戳記以及依賴關係。
系統級屬性 (System Level Properties, SLP) 群集包含與整個人工智慧系統相關的元素,包括系統級資訊以及由多個人工智慧元素(例如分類器、大型語言模型 (LLM) 或人工智慧代理)組成的人工智慧環境的內部運作機制。此叢集還涵蓋人工智慧系統中使用的軟體依賴項和框架,以及描述系統元件如何互動和處理使用者資料的資訊。用於支援或部署系統的元素在基礎設施叢集中單獨列出。
SLP 叢集包含系統名稱、系統元件、系統生產者、系統版本、系統時間戳記、系統資料流、系統資料使用情況、系統輸入輸出屬性以及預期應用領域等資訊。
模型集群 (Models Cluster Elements) 包含用於識別人工智慧系統中模型的信息,描述模型權重的生成方式,並概述每個模型的屬性和限制。此叢集包含模型名稱、模型識別碼、模型版本、模型時間戳記、模型生成器、模型描述、模型雜湊值、模型雜湊演算法、模型屬性、模型輸入輸出屬性、模型訓練屬性、模型許可證和模型外部引用等詳細資訊。
資料集屬性 (DP) 群集 (Datasets Properties Cluster Elements) 提供有關模型整個生命週期中使用的資料集的信息,包括記錄資料身分和來源的核心詳細資訊。此叢集包含的資訊包括資料集名稱、資料集描述、資料集內容、資料集識別碼、資料集雜湊值、資料集來源、資料集統計屬性、資料集敏感度、資料集依賴關係和資料集許可證。
基礎設施叢集 (Infrastructure Cluster Elements) 包含人工智慧系統正常運作和支援所需的實體和虛擬基礎架構。在適用情況下,它還包含指向硬體物料清單 ( HBOM ) 的鏈接,以說明專用人工智慧硬體。此集群包含與基礎設施軟體和基礎設施硬體相關的資訊。
安全屬性 (SP) 叢集 (Security Properties Cluster Elements) 專注於與人工智慧模型和系統相關的網路安全措施。此叢集包含與安全控制、安全合規性、網路安全策略資訊和漏洞參考相關的資訊。
關鍵績效指標 (KPI) 叢集 (Key Performance Indicators Cluster Elements) 包含與人工智慧系統及其組件(包括整合到系統中的人工智慧模型)的 KPI 相關的要素,重點關注其生命週期階段。此叢集包含與安全指標和運行績效 KPI 相關的資訊。
除了上述集群之外,七國集團網路安全工作小組還考慮了未來可能對人工智慧安全目標管理(SBOM)有用的其他要素。例如,人工智慧系統的決策層級或自主性,由於技術的快速發展,特別是智慧體人工智慧的發展,可能變得更加重要。將此類要素納入人工智慧安全目標管理中,有助於評估潛在破壞性攻擊的影響。
然而,儘管該小組認識到人工智慧系統的決策能力或自主性對網路安全的重要性和相關性,但決定不將其明確列為單獨的要素。這項要素在不同的司法管轄區可能會有不同的處理方式,包括透過安全要求來體現。
除了關注單一要素外,作者也強調,僅靠人工智慧供應鏈管理手冊(SBOM)本身不足以提升整個供應鏈的網路安全。為確保人工智慧供應鏈得到有效保護,必須將人工智慧供應鏈管理手冊與網路安全工具(例如漏洞掃描和管理工具、安全公告和通告)連接,並促進開發適應性強、可演進的工具機制。
總之,七國集團網路安全機構共同起草的這份指導方針是提高人工智慧模型和系統供應鏈透明度和安全性的第一步。
「儘管此前已有諸多努力致力於此,但本文件旨在涵蓋一套最低標準,並非詳盡無遺,」文件披露。 「相反,它旨在闡明哪些要素能夠促進人工智慧供應鏈的透明度並提升網路安全。最終,如果將人工智慧供應鏈營運手冊(SBOM)與合適的網路安全工具結合使用,將有助於加強人工智慧供應鏈的安全性。這項工作也力求為人工智慧供應鏈上的利益相關者帶來附加價值。”
資料來源:https://industrialcyber.co/sbom/cisa-g7-partners-release-sbom-for-ai-guidance-to-boost-ai-supply-chain-transparency-and-cybersecurity-resilience/