摘要
本報告旨在探討人工智慧物料清單（AI-BOM）這一新興概念，包括其定義、重要性、潛在的核心要素、可能的呈現方式以及其帶來的益處。隨著人工智慧（AI）系統日益複雜並被廣泛應用於各行各業，對AI系統的組成、開發流程及其潛在風險進行透明化管理的需求也日益增加。AI-BOM旨在提供這種關鍵的可見性，以應對日益嚴峻的AI治理、倫理和安全挑戰。
什麼是人工智慧物料清單（AI-BOM）？
人工智慧物料清單（AI-BOM）是一份關於特定人工智慧系統或模型所包含的
所有關鍵組成部分、數據來源、訓練過程、底層技術與潛在依賴關係的全面清單。它超越了傳統軟體組件的概念，擴展至AI特有的要素，如訓練數據、模型架構、演算法選擇和評估指標等。
AI-BOM的目的是為AI系統提供
端到端的可見性，涵蓋從數據採集到模型部署的整個生命週期。這有助於組織和相關方（開發者、部署者、監管者、最終用戶）了解AI系統的內部運作，評估其潛在的偏見、安全漏洞、性能限制和合規風險。在當今AI應用日益複雜且影響深遠的背景下，缺乏AI-BOM將使AI系統的透明度、可解釋性和可審計性面臨挑戰。
AI-BOM的重要性與潛在驅動因素
AI-BOM的重要性與日俱增，主要由以下幾個因素驅動：
- 日益嚴格的監管要求： 全球各國政府和監管機構正積極制定AI相關法規（如歐盟的AI法案），這些法規可能要求AI系統的開發者和部署者提供更高的透明度和可解釋性，以確保公平性、隱私和安全性。
- AI倫理與負責任AI實踐： 社會對AI系統的公平性、透明度、問責制和安全性有更高的期望。AI-BOM可作為實踐負責任AI的工具，幫助識別和減輕偏見，提高決策的可解釋性。
- 供應鏈安全與風險管理： 就像軟體供應鏈一樣，AI系統的開發也涉及多個組件和數據來源。AI-BOM有助於追蹤這些依賴關係，識別潛在的安全漏洞（如模型中毒攻擊）或數據洩露風險。
- 模型可解釋性與除錯： 複雜的AI模型常被稱為「黑箱」。AI-BOM可以提供關於模型訓練、數據來源和演算法選擇的詳細資訊，有助於開發者和研究人員更好地理解模型行為，進行除錯和性能優化。
- 資產管理與IP保護： 組織需要有效管理其AI資產。AI-BOM提供了一個結構化的方式來記錄AI模型和相關組件的詳細資訊，有助於知識產權管理和版本控制。
AI-BOM的潛在核心要素
於AI系統的特性，AI-BOM的最低要求要素可能涵蓋以下幾個主要領域：
- 數據集資訊 (Dataset Information)
- 數據來源： 原始數據的來源（如公開數據集、內部數據庫、第三方供應商）。
- 數據類型： 數據的種類（如圖像、文本、音頻、數值數據）。
- 數據收集方法： 如何收集數據，是否涉及同意。
- 數據處理與清洗： 數據預處理、轉換、增強的步驟和工具。
- 數據量與分佈： 訓練集、驗證集、測試集的數據量、特徵分佈。
- 數據標註資訊： 標註的來源、方法和品質評估。
- 偏見分析： 對數據集潛在偏見的評估和緩解措施。
- 隱私保護： 是否進行了匿名化、假名化處理。
- 數據許可證： 數據集的使用許可條款。
- 模型資訊 (Model Information)
- 模型名稱與版本： 唯一識別模型的名稱和版本。
- 模型架構： 所使用的神經網路類型（如CNN, RNN, Transformer）、層次結構、參數數量等。
- 訓練演算法： 用於模型訓練的具體演算法（如梯度下降變體）。
- 訓練數據集連結： 與所用數據集的連結或引用。
- 訓練參數： 學習率、批量大小、訓練週期、正則化方法等。
- 性能指標： 模型在訓練集、驗證集和測試集上的性能（如準確度、F1分數、RMSE等）。
- 評估方法： 交叉驗證、對抗性測試等。
- 模型依賴關係： 模型運行所需的軟體函式庫和框架（如TensorFlow, PyTorch）。
- 硬體要求： 模型訓練和推斷所需的硬體資源（如GPU類型、內存）。
- 模型出處： 模型是由誰或哪個組織開發的。
- 運行環境與部署資訊 (Runtime Environment & Deployment Information)
- 運行時環境： 模型部署所需的作業系統、運行時庫、編譯器版本。
- API介面： 模型提供的API端點、輸入/輸出格式。
- 部署平台： 雲端平台、邊緣設備、本地伺服器等。
- 監控與日誌： 模型在生產環境中的監控指標、錯誤日誌記錄機制。
- 治理、倫理與風險資訊 (Governance, Ethics & Risk Information)
- 預期用途與應用範圍： 模型的設計目的、應用場景和限制。
- 風險評估： 對模型可能導致的倫理、社會、安全風險的評估。
- 偏見與公平性： 對模型輸出偏見的評估、所採用的公平性指標和緩解策略。
- 可解釋性方法： 用於解釋模型決策的方法（如LIME, SHAP）。
- 負責人與聯絡方式： AI系統的開發者、部署者、維護者。
- 審計日誌： 模型訓練、部署和更新的歷史記錄。
潛在的AI-BOM格式與自動化支持
似於SBOM，AI-BOM也需要標準化的、機器可讀且人類可理解的格式，以促進跨組織和工具的互操作性。目前雖無統一標準，但未來可能出現類似於SPDX或CycloneDX的格式，甚至可能基於現有的MLOps（機器學習操作）工具和模型卡（Model Cards）概念進行擴展。這些格式將需要能夠：
- 結構化表示複雜數據： 處理多樣化的數據集和模型結構信息。
- 支持版本控制： 追蹤AI系統及其組件的演變。
- 可擴展性： 允許根據不同AI應用的需求添加特定資訊。
- 自動化生成與解析： 支援從AI開發工具和平台自動提取和生成AI-BOM。
AI-BOM的益處
AI-BOM在管理現代AI系統的複雜性和風險方面具有巨大潛力：
- 提升透明度與信任： 提供AI系統的「成分」列表，讓使用者和監管者對其運作有更深入的了解，從而建立信任。
- 強化風險管理： 協助組織識別和評估與數據、模型和演算法相關的潛在風險，如偏見、隱私洩露和安全漏洞。
- 促進合規性與問責制： 有助於滿足日益增長的AI治理法規要求，並為AI系統的決策提供可追溯的依據。
- 優化模型除錯與性能： 透過詳細記錄訓練過程和數據特性，有助於開發者診斷模型問題並提升性能。
- 加速負責任AI的實踐： 將倫理和公平性考量嵌入AI生命週期中，並提供相關證據。
- 簡化協作與供應鏈管理： 促進AI開發團隊、部署團隊和第三方供應商之間的資訊共享與協作。
- 支持AI資產的長期維護： 為AI系統的生命週期管理提供基礎，包括未來的更新、重新訓練和退役。
人工智慧物料清單（AI-BOM）是應對AI系統日益增長的複雜性、透明度需求和監管壓力的關鍵概念。透過系統化地記錄AI系統的每個關鍵組成部分，AI-BOM將成為實現負責任AI、確保數據安全和推動AI產業健康發展的重要工具。隨著AI應用的普及，建立統一的AI-BOM標準將是業界的共同挑戰和未來發展方向。
SBOM和AI-BOM的異同
SBOM 與 AI-BOM 的異同SBOM 和 AI-BOM 都是為了提高系統的透明度、可追溯性和安全性而提出的「物料清單」概念。它們的核心思想相似，但應用的對象和具體內容有所不同。
相同點 (Similarities)
- 核心目的：提供透明度與可見性
- 兩者都旨在提供其對應系統（軟體產品或AI系統）的組成部分的全面清單，以提升內部運作的透明度。
- 目標都是讓利益相關者（開發者、採購者、監管者、用戶）能更清晰地了解產品的「成分」。
- 風險管理工具
- 都作為一種風險管理工具。SBOM 用於識別軟體供應鏈中的安全漏洞、許可證合規性問題和品質風險。AI-BOM 則用於識別AI系統潛在的偏見、安全漏洞、隱私風險和倫理問題。
- 促進合規與問責制
- 兩者都旨在幫助組織符合相關的法規和標準。SBOM 響應政府對軟體供應鏈安全的強制性要求。AI-BOM 則應對日益增長的AI倫理規範和監管壓力，促進負責任的AI實踐。
- 都有助於在問題發生時追溯來源並建立問責機制。
- 基於構成清單
- 都基於其各自產品的「物料」或「組成部分」清單。SBOM 列出軟體組件。AI-BOM 則列出AI特有的元素。
- 支持自動化與標準化趨勢
- 兩者都傾向於發展標準化、機器可讀且人類可理解的格式，以便於自動化生成、交換和分析。
不同點 (Differences)
- 應用對象與範圍
- SBOM： 主要針對傳統軟體產品。其「物料」主要是指軟體程式碼、函式庫、框架、第三方依賴項（開源和專有）。
- AI-BOM： 針對人工智慧系統和模型。其「物料」範圍更廣，除了軟體組件，更包含AI特有的要素。
- 核心內容與組成要素
- SBOM： 核心要素圍繞著軟體組件識別：供應商名稱、組件名稱、版本、唯一識別碼、依賴關係、許可證資訊、SBOM作者和時間戳。
- AI-BOM： 核心要素則擴展至：
- 數據集資訊： 數據來源、類型、收集處理方法、數據量、偏見分析、隱私保護、許可證等。
- 模型資訊： 模型名稱、版本、架構、訓練演算法、訓練參數、性能指標、依賴關係、硬體要求等。
- 運行環境與部署資訊： 部署平台、API介面、監控機制等。
- 治理、倫理與風險資訊： 預期用途、倫理風險評估、偏見與公平性分析、可解釋性方法、負責人等。
- 主要關注的風險類型
- SBOM： 側重於軟體漏洞（CVEs）、許可證合規風險（避免法律糾紛）和軟體供應鏈的安全性。
- AI-BOM： 側重於AI特有風險，例如模型偏見、決策不透明、演算法不公平、數據隱私洩露、模型安全漏洞（如模型中毒、對抗性攻擊）以及AI系統對社會的影響。
- 成熟度與標準化程度
- SBOM： 概念和標準（如SPDX、CycloneDX、SWID）相對成熟，並在政府法規（如美國行政命令）中得到明確要求。
- AI-BOM： 仍是一個新興且不斷發展的概念，尚無被廣泛採納的統一標準或明確的法律強制要求。其相關概念（如模型卡、數據表）正在發展中，並可能成為未來AI-BOM的組成部分。
總的來說，AI-BOM可以被視為SBOM概念在人工智慧領域的
自然延伸和深化，它繼承了SBOM的透明化和風險管理精神，並將其應用於AI系統更為複雜、多樣化且影響深遠的組成部分上。
備註：全球主要國家對AI-BOM要求現況
目前，全球各國和國際組織正積極制定與人工智慧（AI）相關的法律、政策和治理框架，但直接明確要求「AI-BOM（人工智慧物料清單）」作為一項法定或政策規定的國家尚未普遍出現，特別是像美國對軟體物料清單（SBOM）那樣具體命名的強制性要求。然而，許多國家和地區的AI法規和政策中，都包含了AI-BOM所旨在解決的核心原則和要求，例如：- 歐盟 (European Union)：其《人工智慧法案》（EU AI Act）採用「風險基礎」方法，對高風險AI系統提出了嚴格要求，包括：
- 透明度與資訊義務：要求提供AI系統性能、限制、風險和合規性的詳細文件。
- 數據治理：對訓練、驗證和測試數據的品質和管理有特定要求。
- 記錄保存：要求保存日誌，以便於審計和監督。
- 風險管理系統：要求對AI系統的整個生命週期進行系統性的風險識別和緩解。 這些要求雖然沒有直接稱為「AI-BOM」，但其本質上需要開發者和部署者提供類似AI-BOM的詳細資訊。
- 美國 (United States)：
- 透過**NIST AI風險管理框架（AI RMF）**等非強制性指南，鼓勵組織對AI系統進行全面的風險評估和管理，強調透明度、可解釋性和可審計性。
- 部分行政命令和指導文件也強調了AI系統的透明度和負責任開發。
- 中國 (China)：已發布多項針對AI應用的法規，特別是針對生成式AI服務和演算法推薦，要求演算法透明度、內容合法性和風險控制，也暗示了對AI系統組成的了解需求。
- 加拿大 (Canada)：推動負責任的AI採用，強調道德、安全和透明的治理。
- 經濟合作暨發展組織 (OECD)：發布了OECD AI原則，這是第一個關於AI的政府間標準，強調創新、可信任的AI，並尊重人權和民主價值觀。這些原則鼓勵透明度、可問責性、公平性、安全性等，是許多國家AI政策的基礎。