研究指 AI 可利用社交媒體資料製作個人化釣魚郵件
AI起底詐騙|AI靠社媒起底 「客製」詐騙郵件
美國得州大學阿靈頓分校一項研究發現,生成式 AI 可分析社交媒體公開內容,快速製作看似掌握收件人近況的個人化釣魚郵件。研究從200名Instagram用戶收集3268則帖文,交由GPT-4、Claude、Gemini、Gemma及Llama生成17916封釣魚郵件;各模型約需10至15則帖文掌握個人化資訊。
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
美國得州大學阿靈頓分校日前一項研究指出,生成式人工智能(GenAI)能透過用戶在社交媒體公開的照片、文字和互動紀錄等內容取得線索,並且利用這些資訊,快速製作看似掌握收件人近況的個人化釣魚郵件,繼而誘騙對方點擊惡意連結。

研究人員首先從一萬個公開社媒Instagram賬號隨機抽取200名用戶,收集共3268則帖文,然後分別讓GPT-4、Claude、Gemini、Gemma及Llama分析內容,並生成17916封釣魚郵件。
內容自然逼真 測試者難辨認
團隊發現,各款AI模型只需要當中約10至15則帖文,便已掌握足夠的個人化訊息。5款模型當中,開源的Gemma與Llama產出的釣魚郵件數量最多,其餘Claude、GPT-4與Gemini則較少。
跟真實的詐騙郵件相比,AI生成郵件的語言自然度、情景相關性表現均大幅優勝。經70名受試者鑑別下,AI郵件平均可疑程度只有2.75分,真實釣魚郵件有4.44分(滿分為5分)。
防禦工具攔截率不足兩成
另一方面,研究人員又指出既有的AI防護機制,未必能夠辨識這種經過日常用語包裝的惡意請求。
團隊並測試了Llama Guard、ShieldGemma和WildGuard等安全工具,結果能夠擋下個人化詐騙電郵的比例不到兩成。
美國得州大學阿靈頓分校電腦科學與工程系副教授尼利扎德(Shirin Nilizadeh)表示,「任何人都能成為攻擊者……因為有了這些AI模型,他們根本就不需要做多少事,只需要告訴模型自己想要做什麼就行。」
來源:EJ Tech 信報科技 · AI · ejtech.ai