Brave瀏覽器正積極擁抱人工智慧的浪潮,邁向一個能夠為用戶自動執行複雜網路任務的新階段。這項被稱為「代理式AI」(Agentic AI)的功能,象徵著網路瀏覽從被動資訊獲取轉向主動任務執行。Brave正透過其內建的、以隱私為核心的AI助理Leo,進行一項革命性的嘗試,旨在幫助使用者節省時間,提升網路效率。
Brave瀏覽器推出了一項新的AI瀏覽功能,利用其尊重用戶隱私的AI助理Leo,為用戶執行自動化任務。該功能旨在幫助用戶完成自主網路搜尋、產品比較、促銷代碼發現和新聞摘要等任務,目前正處於測試階段,可透過 Brave Nightly 版本存取。 Brave 強調,智慧 AI 瀏覽“本質上是危險的”,不應該用於關鍵操作,主要是因為存在提示注入攻擊和誤解用戶意圖的可能性。為了降低這種風險,新模式在一個單獨的、隔離的設定檔上運行,該設定檔無法存取使用者的 cookie、登入資訊和其他敏感資料。 此模式還將限制其存取瀏覽器的設定頁面、非 HTTPS網站、Chrome 網路應用程式商店(可從中下載擴充功能)以及 Brave 安全瀏覽系統標記的任何網站,所有操作都會在標籤頁中顯示,任何有風險的操作都會向使用者發出警告,並請求使用者明確批准。 有興趣測試 Brave 新智慧 AI 模式的使用者只能透過 Brave Nightly 進行測試,方法是在「brave://flags」中啟用「Brave 的 AI 瀏覽」標誌。這將使Leo的聊天框上出現一個按鈕,點擊該按鈕即可啟動新的瀏覽模式。測試人員可在此提交回饋意見,以協助解決任何問題。同時,Brave 也宣布,對於與 AI 瀏覽相關的漏洞,其HackerOne漏洞賞金將會翻倍。
代理式AI的運作機制與安全設計
Brave的代理式AI模式,讓AI助理Leo能夠根據用戶的指令,自主地在網路上執行一連串的操作。例如,當用戶要求比較三款手機的規格時,Leo將會自動開啟多個頁面、提取關鍵資訊並進行彙整比較,無需用戶手動切換與操作。這種自動化能力極大地簡化了複雜的網路研究流程。
然而,Brave清醒地意識到,賦予AI自主權限進行瀏覽「本質上是危險的」。這項風險主要來自兩個方面:一是「提示注入」(Prompt Injection)攻擊,惡意人士可能透過特定方式誘騙AI執行非預期的有害行為;二是AI誤解用戶的複雜或含糊指令,導致不可預測的操作結果。
為應對這些潛在風險,Brave的工程師設計了一套嚴格的隔離與限制機制。最關鍵的措施是將AI瀏覽模式設定在一個完全獨立、隔離的瀏覽設定檔中運行。這確保了AI在執行任務時,無法存取用戶的主要瀏覽資料,包括帳號的Cookie、登入憑證或其他敏感的使用者資訊。這種沙盒機制有效地將AI活動與用戶的個人隱私資料隔絕開來,是 Brave 對其核心隱私承諾的實踐。
此外,AI的活動範圍也受到嚴格限制。它被禁止存取關鍵的瀏覽器設定頁面,不得瀏覽缺乏基本安全保障的非HTTPS網站,同時也被禁止進入Chrome網路應用程式商店,從而防止其下載潛在的惡意擴充功能。Brave安全瀏覽系統標記的任何可疑網站,AI模式亦會自動避開。
透明度與用戶控制權
Brave在設計此模式時,高度重視操作的透明度。用戶可以實時觀察到AI在單獨標籤頁中執行的所有步驟。更重要的是,對於任何涉及潛在風險的操作,AI都會暫停並向用戶發出警告,要求用戶明確點擊「批准」或「執行」才能繼續,將最終的控制權始終保留在用戶手中。
目前,這項開創性的功能正處於Nightly測試階段,Brave鼓勵技術使用者參與測試並提供回饋,以協助完善功能並修復潛在漏洞。為鼓勵安全研究人員協助,Brave更宣布針對與AI瀏覽相關的漏洞,將其HackerOne漏洞賞金金額翻倍。這項舉措不僅體現了Brave對新功能安全的重視,也彰顯其透過社群力量來建構更安全網路環境的承諾。Brave的代理式AI,在兼顧效率提升的同時,堅守了其保護用戶隱私與網路安全的原則。
資料來源:https://www.bleepingcomputer.com/news/artificial-intelligence/brave-browser-starts-testing-agentic-ai-mode-for-automated-tasks/
Brave瀏覽器正式啟動代理式(Agentic)AI模式測試,利用其內建的隱私保護AI助理Leo執行複雜的自動化網路任務,如產品比較和新聞摘要。本報告探討該模式的運作原理、獨特的隱私與安全隔離機制,以及開發團隊對提示注入等潛在風險的應對策略。