跳到正文
EJ Tech 信報科技 · AI· 信報財經新聞·· 16 天前AI 評分61

研究指 AI 可利用社交媒體資料製作個人化釣魚郵件

AI起底詐騙|AI靠社媒起底 「客製」詐騙郵件

AI 導讀

美國得州大學阿靈頓分校一項研究發現,生成式 AI 可分析社交媒體公開內容,快速製作看似掌握收件人近況的個人化釣魚郵件。研究從200名Instagram用戶收集3268則帖文,交由GPT-4、Claude、Gemini、Gemma及Llama生成17916封釣魚郵件;各模型約需10至15則帖文掌握個人化資訊。

正文

原文刊於信報財經新聞「CEO AI⎹ EJ Tech」

美國得州大學阿靈頓分校日前一項研究指出,生成式人工智能(GenAI)能透過用戶在社交媒體公開的照片、文字和互動紀錄等內容取得線索,並且利用這些資訊,快速製作看似掌握收件人近況的個人化釣魚郵件,繼而誘騙對方點擊惡意連結。

各款AI模型只需約10至15則內容,便已掌握目標人物的個人化訊息。(得州大學阿靈頓分校網上圖片)

研究人員首先從一萬個公開社媒Instagram賬號隨機抽取200名用戶,收集共3268則帖文,然後分別讓GPT-4、Claude、Gemini、Gemma及Llama分析內容,並生成17916封釣魚郵件。

內容自然逼真 測試者難辨認

團隊發現,各款AI模型只需要當中約10至15則帖文,便已掌握足夠的個人化訊息。5款模型當中,開源的Gemma與Llama產出的釣魚郵件數量最多,其餘Claude、GPT-4與Gemini則較少。

跟真實的詐騙郵件相比,AI生成郵件的語言自然度、情景相關性表現均大幅優勝。經70名受試者鑑別下,AI郵件平均可疑程度只有2.75分,真實釣魚郵件有4.44分(滿分為5分)。

防禦工具攔截率不足兩成

另一方面,研究人員又指出既有的AI防護機制,未必能夠辨識這種經過日常用語包裝的惡意請求。

團隊並測試了Llama Guard、ShieldGemma和WildGuard等安全工具,結果能夠擋下個人化詐騙電郵的比例不到兩成。

美國得州大學阿靈頓分校電腦科學與工程系副教授尼利扎德(Shirin Nilizadeh)表示,「任何人都能成為攻擊者……因為有了這些AI模型,他們根本就不需要做多少事,只需要告訴模型自己想要做什麼就行。」

來源:EJ Tech 信報科技 · AI · ejtech.ai