攻擊者如何利用耐心突破人工智慧的防護屏障2025.11.19人工智慧思科人工智慧防禦部門的一項新研究揭示，開放權重的大型語言模型在長時間的互動過程中穩定性會迅速降低。多輪攻擊的成功率遠高於單輪攻擊，凸顯了現有安全評估和保護機制的不足，企業必須對模型來源和安全調優策略有深入了解，並建議採用分層保護和持續評估來應對此類威脅。
EchoGram缺陷繞過了主要LLM中的防護措施2025.11.18人工智慧探討AI安全公司HiddenLayer揭露的EchoGram漏洞，該漏洞利用簡單的詞彙或程式碼序列，成功繞過GPT-5.1、Claude和Gemini等主流大型語言模型的安全防護，對AI系統的信任與安全構成緊急威脅。
Cursor AI問題為憑證竊取攻擊鋪路2025.11.18人工智慧Knostic研究揭露Cursor AI輔助開發環境的嚴重漏洞，攻擊者可利用Model Context Protocol（MCP）伺服器繞過安全控制，執行JavaScript程式碼並竊取憑證，突顯AI輔助開發生態系統的固有不安全性和特權存取風險。
思科發現開放權重人工智慧模型容易在長時間聊天中被利用2025.11.12人工智慧Cisco 發現開放權重 AI 模型在多輪對話攻擊中的漏洞，成功率高達 92.78%。報告強調這些模型難以維持安全護欄，易被利用於生成惡意程式碼和洩露敏感資訊，呼籲企業加強 AI 部署的防禦措施。
「勒索氛圍」席捲 Visual Studio 擴展市場2025.11.10人工智慧揭露「ransomvibing」這一基於 vibe 編碼的AI勒索軟體如何作為惡意擴充功能滲透 Visual Studio Marketplace
研究人員發現 ChatGPT 漏洞，攻擊者可利用該漏洞誘騙人工智慧外洩資料2025.11.06人工智慧Tenable 研究人員揭露了影響 OpenAI ChatGPT 的七種漏洞，包括記憶體注入和間接提示攻擊，揭示了 LLM 作為自主代理時，在目標一致性與競爭優勢之間面臨的嚴重安全困境。
微軟：SesameOp惡意軟體濫用OpenAI Assistants API發動攻擊2025.11.04人工智慧微軟安全團隊發現名為 SesameOp 的後門惡意軟體，濫用 OpenAI Assistants API 作為隱藏的命令和控制通道，進行長期間諜活動並竊取資料。
新型人工智慧定向偽裝攻擊誘騙人工智慧爬蟲將虛假資訊當作已驗證的事實引用2025.10.30人工智慧分析資安公司SPLX揭露的「AI目標偽裝攻擊」（AI-Targeted Cloaking Attack）