隨著人工智慧（AI）技術的快速發展，其應用範圍日益擴大，從日常助理到複雜的數據分析，無處不在。然而，AI的雙面性也逐漸顯現，它不僅能造福人類，也可能被惡意分子利用，成為網路犯罪的新工具。近期在X平台（原Twitter）上出現的「Grok AI影片廣告詐騙案」，便是一個警示性的案例，它展示了駭客如何巧妙地將AI助手融入詐騙鏈，繞過安全機制，並大規模傳播惡意軟體。

「Grokking」詐騙手法的詳細剖析

Guardio Labs 的研究人員發現了一種新的「Grokking」騙局，該騙局利用社交媒體平台 X（原 Twitter）上流行的人工智慧助理Grok繞過安全控制並傳播惡意連結。

在一系列X 貼文中，Tal 解釋了這種騙局的運作方式。它始於惡意影片廣告，這些廣告通常充斥著可疑內容。這些廣告旨在吸引註意力，但故意在主帖中不提供可點擊的鏈接，以避免被 X 的安全過濾器標記。不法分子反而將惡意連結隱藏在一個很小的「寄件者：」元資料欄位中，這似乎是平台掃描的盲點。

接下來是騙局最巧妙的部分，同樣的攻擊者會在廣告回覆中向 Grok 提出一個簡單的問題，例如「這個影片的連結是什麼？」。 Grok 會讀取隱藏的「寄件者：」字段，並在新的、完全可點擊的回覆中發布完整的惡意連結。

這種詐騙手法的精妙之處在於其多層次的設計，每一步都經過精心策劃，以規避平台的安全檢測，並利用人類的好奇心和信任。

1. 引人注目的惡意影片廣告： 詐騙者首先在X平台上發布惡意影片廣告，這些廣告通常內容誇張、引人入勝，旨在最大限度地吸引用戶的注意力。然而，這些廣告的主貼中故意不包含任何可點擊的連結，以避免觸發X平台的自動安全過濾器，降低被偵測的風險。

2. 隱藏的惡意連結： 惡意連結並非直接顯示在主貼中，而是巧妙地嵌入在影片廣告的「寄件者：」（Sender:）元資料欄位。這個欄位通常不被用戶關注，也可能是X平台安全掃描的盲點，讓惡意連結得以在不被發現的情況下存在。

3. Grok AI的利用： 這是整個詐騙中最具創新性的環節。攻擊者會在惡意廣告的評論區，以一個看似無辜的身份向Grok AI提出問題，例如「這支影片的連結是什麼？」。由於Grok AI被設計成可以解析和提取資訊，它會讀取影片元資料中的隱藏連結，並將其作為「回覆」發布，而且這個連結是完全可點擊的。

4. 連結導向惡意網站： 用戶點擊Grok AI生成的連結後，會被導向一個精心偽造的網站。這些網站通常模仿知名品牌或提供誘人的內容，如免費贈品、加密貨幣投資機會或非法內容。

5. 惡意軟體傳播與資料竊取： 在偽造網站上，用戶會被提示下載「影片播放器」、「瀏覽器更新」或「VPN」等軟體。然而，這些下載實際上是惡意軟體，例如RedLine Stealer和RisePro Stealer。這些惡意軟體能夠竊取受害者的瀏覽器憑證、加密貨幣錢包內容、信用卡資訊、銀行帳戶詳細資料以及其他敏感的系統資訊。

6. 持久性與擴散： 部分受感染的設備還會被植入惡意瀏覽器擴充功能，進一步竊取用戶資料並將其發送到攻擊者的伺服器。

防禦策略與未來挑戰

這起「Grokking」詐騙案對X平台用戶和廣大網路使用者提出了嚴峻的挑戰，也揭示了AI技術在網路安全領域的雙重影響。為了有效防禦此類攻擊，需要平台方、AI開發者和用戶共同努力：

1. 平台方的責任： X平台需要加強其安全過濾器，擴大掃描範圍，不僅檢查主貼內容，也要對元資料欄位和AI互動進行更嚴格的審查。同時，平台應針對AI助手的輸出內容建立更嚴格的審核機制，防止其被濫用來傳播惡意資訊。

2. AI開發者的倫理考量： AI開發者在設計AI模型時，應充分考慮其潛在的濫用風險，並內建防範惡意行為的機制。例如，在處理外部連結或敏感資訊時，應加入人類審核或多層次驗證。

3. 用戶的警覺性： 這是最關鍵的一環。用戶應始終保持警惕，對來源不明的連結和下載內容抱持懷疑態度，即使是看似由AI生成的內容。在點擊任何連結之前，務必仔細檢查其真實性；在下載任何軟體之前，務必確認其來源的可靠性。特別是對那些承諾過高回報或異常誘人的內容，更應提高警覺。

「Grokking」詐騙案是網路犯罪分子利用新技術進行升級攻擊的一個縮影。它標誌著AI已被正式納入網路詐騙的工具箱，預示著未來網路安全戰將更加複雜。唯有技術防禦、平台管理和用戶教育三者並行，才能有效應對AI時代下的新型網路威脅。