資安領域總是不斷地面臨新的挑戰，而隨著人工智慧（AI）應用的普及，駭客也發展出更具創意與隱蔽性的攻擊手法。近期資安研究團隊SafeBreach Labs揭露了一種名為「Promptware」的全新網路攻擊技術，它能夠透過一個看似無害的Google日曆邀請，成功劫持使用者的Gemini AI代理程式。

這種攻擊屬於一種更精密的「間接提示詞注入」（Indirect Prompt Injection）攻擊，與過去常見的網路釣魚（Phishing）或語音網路釣魚（Vishing）等社交工程技術相比，其更難被肉眼察覺。傳統的釣魚攻擊通常需要使用者點擊惡意連結或下載附件，而Promptware攻擊則無需任何使用者互動，AI代理程式會自動執行指令。

研究人員成功在Gemini for Workspace上展示了這種「定向Promptware攻擊」（Targeted Promptware attack）。他們透過發送一個惡意的Google日曆邀請，便能夠成功入侵AI代理程式。一旦Gemini被成功劫持，它將可能被用於執行一系列危害性極高的行為，例如：竊取私人電子郵件、追蹤使用者的地理位置、發送垃圾郵件、刪除日曆事件、甚至生成有害或具煽動性的內容。更令人擔憂的是，攻擊的影響範圍不僅限於數位世界，一個被入侵的AI助理可能被用來控制智慧型手機上的應用程式，進而操控與智慧家庭相關的物聯網設備，例如連網的門窗、鍋爐和照明系統，對使用者的現實生活構成直接威脅。

Promptware攻擊的發現再次突顯出，AI模型雖然強大，但其在處理非結構化數據（如自然語言）時仍存在漏洞。駭客利用AI會「信任」其所接收到的輸入的特性，巧妙地繞過傳統的資安防禦措施。Google在接到SafeBreach Labs於2025年2月的通報後，已迅速採取行動，強化其防護措施，以期偵測這類提示詞注入攻擊，並確保AI在執行敏感操作前能夠有更嚴格的驗證程序。

對於企業和個人使用者而言，這起事件提供了寶貴的教訓。首先，應持續關注AI平台的安全性更新與公告，並確保系統處於最新狀態。其次，企業應對員工進行相關的資安培訓，使其了解提示詞注入攻擊的原理，並提高對可疑日曆邀請或AI互動請求的警覺性。更重要的是，在AI應用中實施更嚴格的存取控制與多因素認證（MFA）等防護措施，以確保即使AI代理程式被入侵，駭客也無法輕易執行敏感操作。

Promptware攻擊提醒我們，AI安全不僅僅是技術層面的挑戰，它更牽涉到如何建立人與AI之間更謹慎的互動模式。當AI越來越深地整合到我們的生活與工作中，我們必須將其視為一個潛在的弱點，並持續建立一個「人與AI」雙重防禦的強大防火牆，以保護我們的數據和資產安全。

資料來源：https://hackread.com/promptware-attack-hijack-gemini-ai-google-calendar-invite/