人工智慧對抗中的惡意轉向

大型語言模型（LLM）的興起正在重塑網路安全格局，其雙刃劍的性質日益凸顯。主流的合法人工智慧助理雖內建了防止濫用的安全防護機制，但網路犯罪分子已開始利用專門為惡意目的設計的暗黑LLM（Dark LLMs），來大規模自動化和提升網路攻擊的效率與複雜度。這些不受限制的模型繞過了道德規範和安全屏障，為網路犯罪活動創建了一個高效且低門檻的執行平台。

 

暗黑LLM的崛起與商業模式

安全研究人員和威脅行為者經常會找到繞過合法人工智慧助理防護機制的方法。然而，有些LLM（被稱為惡意LLM或暗黑LLM）是專門為惡意目的而設計的，它們不具備合法服務所擁有的任何防護機制。惡意 LLM 使技能較低的威脅行為者更容易進行攻擊，Palo Alto Networks 的研究人員分析了最近推出的兩款工具：WormGPT 4 和 KawaiiGPT。 最初的 WormGPT 於 2023 年出現，同年關閉。WormGPT 4 最近出現，在地下論壇和 Telegram 頻道上進行宣傳，Palo Alto Networks 在 9 月下旬發現了其銷售活動。使用 AI 工具一個月的費用為 50 美元，但用戶只需支付 220 美元即可獲得「終身訪問權限」，其中包括訪問原始碼。 WormGPT 4 可被威脅行為者用於編寫具有說服力的網路釣魚資訊和其他社會工程誘餌。雖然 WormGPT 4 被宣傳為「通往無邊界人工智慧的鑰匙」，但Palo Alto Networks的研究人員指出，WormGPT 4 的開發者對其模型架構和訓練數據保密。

 

關鍵工具分析：WormGPT 4與KawaiiGPT的能力展示

Palo Alto Networks的研究人員分析的第二個暗語言學習模式是 KawaiiGPT，它似乎在 2025 年 7 月出現。 KawaiiGPT 在 GitHub 上免費提供，並且易於設定。研究人員展示瞭如何利用它來創建具有說服力的社會工程誘餌、創建在 Linux 主機上橫向移動的腳本、生成資料外洩腳本以及編寫勒索信。 Palo Alto Networks 警告稱，WormGPT 4 和 KawaiiGPT 等暗黑 LLM 代表了「數位風險的新基準」，這主要是由技能的民主化和網路攻擊的商業化所驅動的。這家安全公司解釋說：「這些不受限制的模型從根本上消除了網絡犯罪活動所需的技術技能方面的一些障礙。這些模型將曾經只有知識更豐富的威脅行為者才能擁有的權力，賦予了幾乎任何擁有互聯網連接並基本了解如何創建提示以實現其目標的人。」

 

網路攻擊技能的民主化與數位風險新基準

暗黑LLM的出現標誌著網路威脅形勢的一次重大轉變。透過提供易於獲取且功能強大的工具，網路攻擊的技術門檻被大幅降低。這賦予了技能不足者進行複雜攻擊的能力，加速了網路犯罪的「商業化」與「民主化」。

KawaiiGPT這類免費、開源且功能全面的惡意LLM，能夠快速生成多種惡意內容，從精密的社會工程腳本到實際的橫向移動代碼，對防禦者構成了直接的挑戰。這要求安全業界必須重新評估其風險基準，並將防禦策略從傳統的基於簽名或已知模式的保護，轉向更側重於行為分析和即時上下文感知的深度防禦體系，以應對由惡意人工智慧驅動的、難以預測的新一代威脅。

資料來源：https://www.securityweek.com/wormgpt-4-and-kawaiigpt-new-dark-llms-boost-cybercrime-automation/