網路安全研究人員發現了迄今為止已知的最早具備大型語言模型（LLM）功能的惡意軟體，由SentinelOne SentinelLABS研究團隊發現的這款惡意軟體代號為MalTerminal，它內含一個已於2023年11月初棄用的OpenAI聊天完成API端點，這表明該樣本可能是在該日期之前編寫的，因此它極有可能成為最早被發現的LLM驅動惡意軟體。

MalTerminal的運作原理與威脅

MalTerminal是一種Windows可執行文件，其核心功能是利用OpenAI的GPT-4來動態生成惡意程式碼。它能夠根據駭客的需求，即時產生勒索軟體程式碼或反向Shell，展現了前所未有的動態攻擊能力。這種能於運行時生成惡意邏輯和命令的能力，對傳統的資安防禦機制構成了新的挑戰。雖然沒有證據表明MalTerminal曾在實際環境中被部署，它很可能是一個概念驗證（PoC）惡意軟體或用於紅隊演練的工具。

LLM嵌入式惡意軟體的新興類別

SentinelOne在一份關於LLM惡意使用的報告中指出，威脅行為者越來越多地利用AI模型來支援其運營，甚至將AI模型直接嵌入其攻擊工具中。這類新興的威脅被稱為「LLM嵌入式惡意軟體」（LLM-embedded malware），其典型代表除了MalTerminal，還包括先前報導過的LAMEHUG（又名PROMPTSTEAL）和PromptLock。這類惡意軟體的出現，標誌著網路犯罪手法的一個重大轉變，從依賴靜態程式碼轉向動態生成，使得傳統的簽章式偵測方法變得更為困難。

對未來資安的影響與啟示

MalTerminal的發現證實了資安界長久以來的擔憂：人工智慧不僅是資安防禦的強大工具，也可能被惡意利用，成為網路攻擊的催化劑。這類惡意軟體代表了駭客戰術的重大演變，將促使資安防禦者重新思考應對策略。未來的防禦系統不僅需要識別已知的惡意程式，更必須具備分析和預測動態生成惡意程式碼的能力。這起事件為整個資安界敲響了警鐘，預示著一場由AI驅動的網路攻防新時代即將來臨。企業和個人都必須密切關注此類威脅的發展，並投資於更先進的資安技術和防禦策略，以應對這一新興的資安挑戰。