國際自動化協會 (ISA) 近期發布了一份立場文件，展望了在工業環境中安全實施人工智慧的機會、風險以及以標準為導向的路徑。將人工智慧引入工業流程意味著工作流程和實踐方式的改變，實施方案必須符合行業標準、法規和法律要求。人工智慧系統通常是由複雜的、分散的專案產生的，涉及資料收集、訓練、系統整合和部署等環節，因此需要滿足複雜的保障要求。人工智慧也會影響決策的透明度，解決所有這些問題對於成功部署至關重要，同時也要避免對工業營運造成不利影響。
文件強調了諸如 ISA/IEC 62443 等成熟的標準框架在確保人工智慧系統透明、安全、可靠並與營運技術 (OT) 要求相符方面發揮的關鍵作用，報告強調標準至關重要，其中 ISA/IEC 62443 系列標準被認為是一個靈活、全面的框架，可用於解決工業自動化和控制系統中當前和新興的安全漏洞。以下是這份文件的重點摘要：

1. AI 對工業自動化的轉型影響

2. AI 在自動化的發展歷程

• 1940s–1960s：AI 理論起源：1943 年，Warren McCulloch 與 Walter Pitts 發表第一個機器學習演算法「Perceptron」，並於 1957 年由 Frank Rosenblatt 實作。1950 至 1960 年代間，AI的早期程式如 Logic Theorist、General Problem Solver（GPS）與 ELIZA 相繼問世。
• 1970s–1980s：專家系統與模糊邏輯應用：專家系統開始模擬人類決策，運用知識庫與推論規則來完成需要人類專業判斷的任務。之後，模糊邏輯與神經網路被引入控制系統，提升自適應性與穩健性，並促進自主系統的形成。
• 1990s–2020s：資料驅動與生成式 AI 崛起：隨著運算與儲存能力增強，AI 轉向以資料為核 心，發展出可學習並預測的系統（如預測性維護）。近年來生成式 AI 興起，藉由大規模訓練資料與運算資源，能自動生成內容與預測模式。未來的「神經符號 AI（neuro-symbolic AI）」結合了機器學習與知識導向的推理邏輯。

3. AI 在工業自動化的應用實例

• 自主與協作型機器人（Cobots）：應用於製造、醫療與服務業，透過語言與視覺模型強化控制能力。
• 物聯網（IoT）與智慧感測：提供即時資料，支援 AI 即時控制與最佳化決策。
• 深度學習應用：用於影像、語音與趨勢分析，促進自動檢測、預測性維護與品質管制。
• 生成式 AI：可分析海量標準、程序與政策，協助制定作業標準與合規要求。
• 自駕車與無人機：AI 推動新型自主運輸模式。
• 數位分身（Digital Twin）：用於即時模擬、診斷與預測，提升系統控制效能。

4. 工業 AI 應用的主要風險與挑戰

• 人員安全：AI 錯誤決策可能導致嚴重安全事故。自動化取代人類操作後產生的新攻擊面需嚴格控管。
• 系統可靠度：AI 故障可能造成停機、設備損壞或安全事故。
• 資料品質依賴：訓練資料不佳會導致模型失準，影響預測與運作效率。
• 透明度與可解釋性不足：大型模型常為黑箱，難以驗證與測試，缺乏成熟的保證與標準。
• 資訊安全與資產保護：AI 易遭新型攻擊，如：

• 務與合規影響：AI 導入改變企業流程，需符合法規、標準與透明決策要求。
• 技能需求變化：員工需學習新技能，組織需建立再教育與變革管理機制。
• 地緣政治與依賴性風險：AI 技術主要由美國大型企業掌握，導致集中式風險與全球安全張力。

5. 行動呼籲（Call to Action）

6. 從哪裡開始（Where to Start）

• ISA/IEC 62443 標準系列：提供工業自動化與控制系統（IACS）安全框架，用於減輕現有與未來的安全風險。
• ISA 教育與能力模型：推動全球專業訓練與認證，如美國勞工部的 Automation Competency Model，定義了自動化專業人員在不同職涯階段所需的知識與技能。

註：

資料來源：https://industrialcyber.co/ai/isa-position-paper-explores-industrial-ai-in-automation-covering-opportunities-risks-cybersecurity-considerations/