關閉選單
強化人工智慧安全,建構代理互聯網缺失的層 (layers)

隨著大型語言模型(LLM)驅動的自主智慧體(Agents)逐漸應用於供應鏈規劃、協同推理等複雜任務,一個由這些智慧體構成的「代理人網際網路」(Internet of Agents)正成為現實。思科研究院的深度研究表明,現有的網路架構,如OSI與TCP/IP模型,是為傳輸資料包而設計,缺乏支援自主實體之間進行意義協調的機制。這種架構上的缺陷,導致了智慧體在大規模互動時的低效率與不可預測性。為了應對這一挑戰,思科研究人員提出了一項突破性的架構方案,旨在透過增加兩個新型層級,為代理人通訊提供必要的結構化與語義共識。他們將這種轉變比喻為早期網際網路中HTTP協議的誕生,認為代理系統正站在新網路基礎設施發展的轉捩點上。

網路安全團隊開始思考大型語言模型代理程式如何進行大規模互動,思科研究院的一篇新論文指出,目前的網路協定堆疊尚未做好應對這種轉變的準備。該論文提出在應用傳輸層之上增加兩個額外的層,以幫助代理以結構化的方式進行通信,並在採取行動之前達成共識。 該論文指出,智能體已經可以透過MCP和A2A等協定交換數據,這些協定支援工具調用和結構化任務。這些協定有助於標準化訊息格式,並為開發者提供在智慧體之間傳遞任務的方法。然而,研究指出了一個反覆出現的問題:智能體可以解析訊息,但它們通常缺乏對訊息內容含義的共識。例如,一個提及城市或任務的請求可以有多種不同的理解,這迫使智能體陷入緩慢的解釋循環。這增加了推理的負擔,並使系統行為難以預測。 研究人員將此視為目前網路架構中的缺陷。傳統的 OSI 和 TCP/IP 模型旨在傳輸資料包,而非支援必須就含義達成一致的自主實體之間的協調。正如作者所解釋的,這種情況類似於早期互聯網,當時開發者創建了 HTTP 來填補傳輸層和應用層之間的空白。這項臨時措施最終成為了網路的基礎組成部分。研究人員認為,代理系統也正處於類似的轉型階段。
推動代理商溝通方式標準化
所提出的代理通訊層位於HTTP之上,專注於訊息結構和互動模式。它整合了多個協定中湧現的各種功能,並將它們組織成一套通用的建置模組。這些模組包括標準化的信封、定義意圖的執行器註冊表,以及一對一或一對多的通訊模式。 其理念是為智能體提供一種可靠的方式,使其在解讀內容之前就能理解通訊類型。請求、更新或提案都遵循預期的模式。這有助於智能體協調任務,而無需猜測發送者的意圖。這層並非判斷意義,它只是確保溝通遵循所有智慧體都能理解的可預測規則。
賦予代理人理解意義的共同方式
下一層彌補了現有協議的不足。該研究提出了一種代理語義協商層,使代理能夠發現共享上下文、達成共識,並根據該上下文驗證所有訊息內容。上下文可以描述概念、任務和所需參數。每個上下文都有版本,並且可以基於形式化的模式。一旦智能體鎖定某個上下文,它們就會將其用於所有後續通訊。此層會檢查訊息是否符合約定的定義,如果有歧義,則會提示進行結構化澄清。這項工作表明,這可以減少LLM 提示中的猜測,並使智能體能夠以更確定的方式工作。它還支援簡單的編排,以及共享觀察結果或決策的智慧體組之間的廣泛協調。
當意義成為安全隱患
透過形式化語義,系統提高了可預測性,但也引入了新的安全隱患。本文概述了幾個新的風險,攻擊者可能注入符合模式但能欺騙智能體推理的有害內容。他們可能散佈篡改或偽造的上下文定義,誤導大量智能體。他們可能透過重複的語義查詢使系統不堪重負,從而消耗推理資源而非網路資源。為了應對這些問題,作者提出了與新層相符的安全措施。簽章上下文定義可以防止竄改,語意防火牆會在概念層面檢查內容,並強制執行關於誰可以使用上下文哪些部分的規則,速率限制有助於控制計算負載。該論文還指出,需要一種類似於憑證授權單位的信任模型,以便代理商可以驗證它們可以安全使用的上下文。
阻礙收養的障礙
該研究將這些層視為附加架構,而非替代方案。許多組件已存在於早期協議中,該方案旨在將它們統一起來。更大的挑戰在於效能、治理和共享標準。代理需要快速發現上下文,以及一種通用的上下文分發和驗證方式。組織需要一種方法來管理上下文版本並棄用有缺陷的版本。

作者指出,多智能體系統已應用於供應鏈規劃和協同推理等任務。隨著這些系統的發展,缺乏結構和語意層面的形式化層可能會限制其可靠性。本文提出的方法旨在為開發者提供一個基礎,以減少智能體之間的混淆,並幫助他們以安全且可預測的方式協調複雜的工作。

這項「代理人網際網路」架構的提案,即在應用傳輸層(L7,通常是HTTP/2/3)之上疊加代理通訊層(L8)與代理語義協商層(L9),是思科對未來網路發展的關鍵性洞察。它不僅僅是技術上的改進,更是對網路協定哲學的根本性轉變,從單純的數據傳輸轉向支援自主實體的意義協商。L8層專注於訊息結構意圖定義,確保通訊行為的可預測性;而L9層則專注於共享語義共識驗證,解決了長期以來LLM智能體缺乏統一理解的問題。透過形式化(Formalizing)意義,系統的可靠性與確定性大幅提升。然而,如研究指出,新的架構也帶來了新的安全挑戰,特別是惡意上下文的注入或篡改,這要求必須建立強大的信任模型(類似於憑證授權單位)與語義防火牆。最終的實施與普及,將取決於產業能否克服效能瓶頸、建立共享的上下文標準,以及有效地進行治理和版本管理。思科研究院提出的解決方案為開發者奠定了一個可靠的基礎,使其能夠建構出更安全、更可預測、且能夠大規模協調的多智能體系統,標誌著網路架構正式進入了「智能體時代」。這一研究對於未來軟體工程、網路安全及人工智慧的發展,都具有深遠的指導意義。


資料來源:https://www.helpnetsecurity.com/2025/12/05/cisco-research-internet-of-agents-architecture/
 
思科研究院提出在現有網路協定堆疊上增加「代理人通訊層」與「代理人語義協商層」兩個額外層,以解決大型語言模型代理程式在進行大規模互動時,缺乏結構化通訊與共識的問題,從而為「代理人網際網路」奠定可靠且安全的基礎架構。