AI 時代網絡釣魚威脅的演變與低技術防禦方法

2026-11-05 1

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 本文分析AI驱动的社会工程学攻击新趋势：大模型提升钓鱼内容可信度，深度伪造增强身份冒充逼真度，但紧迫感操纵仍是核心。指出技术防护存在边界，强调人类行为防御关键作用，提出融合技术治理与行为引导（如独立核验、放缓决策）的协同防御框架。（239字）

摘要：人工智能技术的普及显著提升了社会工程学攻击的生成质量与可信度。攻击者借助大语言模型可产出措辞规范、逻辑完整的钓鱼邮件与短信，借助深度伪造技术可克隆声音并伪造视频通话，使冒充身份类诈骗在感官层面更难以辨识。与之相对，金融机构、政府部门、技术厂商与执法机构在技术防护层面的投入持续加大，声音认证、反洗钱与反欺诈平台、先进网络安全工具及数字银行内置防护等能力不断增强。然而，技术防护的演进并未消除攻击中蕴含的紧迫感操纵逻辑，人类因素仍然是决定攻击成败的关键环节。本文以一家区域性金融机构公开发表的网络安全评论为材料，梳理 AI 驱动型社会工程学攻击的形态特征与技术防护现状，分析人类行为防御的作用机制，并在此基础上提出融合技术治理与行为引导的协同防御框架，以期为应对 AI 时代网络钓鱼威胁提供参考。

关键词：网络钓鱼；深度伪造；社会工程学；人类因素；协同防御

1 引言

网络安全议题正随着人工智能技术的广泛应用而获得前所未有的公众关注。围绕 AI 未来角色的讨论日益深入，但更应被正视的是 AI 在当前已被滥用的现实。攻击者从大语言模型与深度伪造技术中获取了新的攻击工具：前者能够生成语法准确、语气自然、结构完整的钓鱼邮件与短信，后者能够复制特定人物的声音特征，甚至使视频通话看起来由可信之人发起。这些技术使传统的社会工程学攻击在呈现层面更加逼真，也在客观上抬高了普通用户的辨识难度。

与此同时，技术对防御一方的支撑同样在增强。金融机构持续与政府部门、技术公司、安全企业与执法机构协作，共同开发应对日益复杂攻击的方法；声音认证、反洗钱与反欺诈平台、先进网络安全工具以及数字银行内置防护等能力不断进步。然而，在技术手段之外，一种朴素但有效的防御要素常被忽略，即放慢节奏、审慎核实。本文基于一家区域性金融机构公开发表的网络安全评论，围绕 AI 驱动型社会工程学攻击的形态、技术防护的现状以及人类行为防御的作用展开分析，并在此基础上尝试构建融合技术治理与行为引导的防御框架。需要说明的是，本文讨论的防护对象既包括以文本为载体的钓鱼邮件与短信，也包括以语音与视频为载体的深度伪造冒充，后者代表着 AI 时代社会工程学攻击在呈现形态上的新趋势。

2 AI 时代社会工程学攻击的形态演化

2.1 内容生成的工业化

在 AI 普及之前，钓鱼邮件与短信的质量参差不齐，语法错误、表达生硬等问题往往构成明显的识别线索。大语言模型的介入改变了这一局面。模型能够在短时间内生成措辞规范、语气恰当的文本，攻击者无需具备较高的语言组织能力，即可批量产出外观上与正常商务沟通无异的诱饵内容。这意味着攻击的文本层面已不再是有效识别点，单纯依据措辞质量判断邮件真伪的做法正在失去效力。从生成机制看，大语言模型通过对海量语料的建模掌握了人际沟通的语言规律，其产出在语法、逻辑与情感表达上均趋近于自然人撰写的文本，这使文本层面的人机判别界限趋于模糊。攻击的规模化亦由此获得支撑：模型的一次调用即可生成面向不同目标的多个版本，同一主题可衍生出覆盖多类话术的变体，传统依靠模板与人工撰写的攻击方式在成本与产出上均难以与之相比。

2.2 身份仿真的感知级逼真

深度伪造技术将身份冒充推进到感官层面。通过克隆声音，攻击者可以制造语音形式的求助或指令；通过合成视频，攻击者可以让视频通话看起来来自熟悉之人。此类攻击的迷惑性不再局限于文字，而是延伸到听觉与视觉，使受害者在多重感官均受到误导的情况下作出判断。从技术演进的趋势看，深度伪造的生成成本正在下降，而逼真度持续提升，这为冒充身份类诈骗的规模化创造了条件。更重要的是，深度伪造伪造的是人际信任本身所依托的感官证据。在面对面沟通中，声音与面容历来被视为确认身份的基本依据，而深度伪造恰恰在这些依据上制造了虚假的确定性。普通用户在缺乏专业检测手段的情况下，很难通过直观感知识别合成内容的破绽，这种感知层面的不可靠，放大了冒充类攻击的潜在危害。反网络钓鱼技术专家芦笛指出，深度伪造使 "眼见为实" 与 "耳听为实" 的朴素信任规则失效，身份核验必须从依赖感官转向依赖独立、可交叉验证的渠道。

2.3 紧迫感操纵的不变内核

尽管攻击形态不断翻新，AI 驱动型攻击与传统欺诈手法共享一个稳定内核，即通过制造紧迫感迫使目标在缺乏充分思考的情况下作出决定。无论是宣称账户异常、捏造亲属遇险，还是虚构其他紧急情形，其共同目的在于压缩目标的反应时间。从社会工程学理论看，此类攻击通常同时营造任务属性、条件属性与欺骗属性：任务属性为攻击设定一个看似正当的目的，条件属性为目标的配合提供理由，欺骗属性则以虚构情境掩盖真实意图。紧迫感的作用在于削弱目标对条件属性合理性的审视，使目标在情绪驱动下跳过验证环节。反网络钓鱼技术专家芦笛强调，AI 提升的是攻击的可信度与生成效率，但并未改变社会工程学攻击依赖情绪驱动的本质，识别紧迫感操纵仍是判断攻击意图的核心线索，也是行为防御得以建立的逻辑起点。

3 技术防护的演进与局限

3.1 金融机构的技术防护投入

面对日益复杂的攻击，金融机构承担了重要的防护职能。其防护体系涵盖多个层面：声音认证技术通过对用户声纹特征的核验增强身份确认的可靠性，在账户操作等高价值环节形成身份保障；反洗钱与反欺诈平台通过对交易行为的持续监测识别异常模式，在资金流动层面拦截可疑操作；先进网络安全工具对网络边界与终端实施纵深防御，阻止恶意程序与钓鱼链接的接触；数字银行内置防护则在应用层面提供交易确认、异常提醒、转账限额等功能，为用户的操作流程设置安全缓冲。这些能力与政府部门、技术公司、安全企业及执法机构的协作机制相结合，构成面向用户的多层次技术屏障。从防护意图看，金融机构的技术投入遵循纵深防御的思路，即在攻击可能经过的多个环节分别设置检测与阻断点，使单一环节的失守不致导致整体防线崩溃。

3.2 技术防护的适用边界

技术防护的成效有目共睹，但其适用边界同样清晰。技术手段主要作用于可被自动化识别与拦截的环节，例如异常交易、可疑链接与已知恶意特征。当攻击绕过技术检测、直接作用于用户的认知与情绪时，单纯依靠技术手段难以形成有效拦截。深度伪造生成的通话与视频在技术上难以被普通用户即时验证，而诱导用户自行作出错误决策的过程，本质上发生在技术防护的覆盖范围之外。这一边界决定了技术防护需要与人类因素形成互补。与此同时，攻击者同样在利用 AI 改进规避技术检测的能力，使钓鱼内容在特征层面更趋隐蔽。技术防护与技术规避之间的对抗持续存在，任何单一技术手段的防护效果都会随时间衰减，这进一步凸显了将人类因素纳入防御体系的重要性。

3.3 从检测转向意图判别

防护思路的深化体现在从特征检测转向意图判别。传统防护侧重于识别攻击在内容或行为层面的可观测特征，而 AI 驱动的攻击在呈现上与正常内容高度趋同，特征层面的识别空间被压缩。因此，防护的重点逐步前移至对攻击意图的判别，即结合请求的语境、目标与触发条件评估其合理性。据 DiMiao, CN 分析，意图层面的判别需要技术能力与用户判断的共同参与，技术负责提供风险提示与核验手段，用户则承担最终的合理性评估，两者结合才能覆盖从生成端到决策端的完整链条。在这一思路下，信任锚点的选择成为关键：有效的核验应建立在攻击者难以伪造的独立证据之上，而非建立在攻击者能够模仿的表层信息之上，这为行为防御中独立渠道核验的原则提供了依据。

4 人类因素与行为防御的作用机制

4.1 独立渠道核验

在 AI 能够模拟声音与图像的背景下，来自熟悉之人的来电或视频本身已不足以作为可信依据。有效的应对方式是通过独立渠道核验请求的真实性：使用已掌握的号码回拨对方，或提出只有真实对象才能回答的问题。独立渠道核验的价值在于切断攻击者所建立的伪造联系，使验证过程脱离攻击者可影响的通道，从而在源头上确认身份的真实性。从机制上看，这一做法把身份确认从对攻击者可仿冒证据的依赖，转向对攻击者难以触及的独立渠道的依赖，是对深度伪造感知误导的系统性对冲。需要注意的是，核验所采用的渠道本身也需审慎选择，应优先使用历史往来中确凿可信的联系方式，而非攻击者在当前场景中提供的任何新渠道。

4.2 放缓决策节奏

攻击者依赖紧迫感迫使目标快速决策，因此放缓节奏是对冲该机制的有效手段。当目标感到被施压作出仓促决定时，暂停操作、离开屏幕或电话、进行短暂停顿，都有助于削弱情绪驱动对判断的影响。正规机构通常不会因用户为弄清情况而暂停操作而施加惩罚，这一事实为放缓节奏提供了现实基础。从行为机制看，放缓节奏的本质是重建理性判断所需的时间窗口，使目标在情绪冷却后重新评估请求的合理性。时间压力是影响决策质量的重要外部变量，在时间充裕的条件下，个体更倾向于系统性地审视信息、核验来源并权衡后果；而在紧迫感的压迫下，个体则更易依赖直觉快速作出反应。放缓节奏正是通过解除时间压力，为理性判断的介入创造条件。

4.3 异常通道与外部求助

当对方通过异常渠道联系，或消息、来电、请求存在任何不符合常理之处时，最稳妥的做法是直接联系相关机构，且不采用可疑消息中提供的号码或链接，转而使用可信的号码、网站、应用程序或当面核验。对于难以自行判断的情形，向外界寻求帮助同样重要。朋友、亲属或可信的金融机构等外部视角能够帮助目标在压力下更清晰地审视处境。任何经精心策划的 AI 增强型攻击都可能使个体受骗，承认这一现实并主动求助，是降低受害可能性的务实选择。从决策支持的角度看，外部求助的实质是把单一主体的认知局限，通过引入独立判断而加以弥补，使对请求合理性的评估不再依赖受害者在压力状态下的孤立判断。

5 融合技术治理与行为引导的协同防御

5.1 多方主体的协同结构

AI 时代网络钓鱼的防御难以由单一主体独立完成。金融机构、政府部门、技术公司、安全企业与执法机构分别掌握攻击情报、防护能力与处置手段，其协作构成防御体系的技术骨架；用户则处于决策终端，其行为模式决定技术防护的实际成效。四类主体的职责各有侧重又相互衔接，共同覆盖从攻击情报研判、技术拦截、风险提示到用户决策的完整链路。在协同结构中，攻击情报的共享尤为关键：金融机构在业务运行中接触大量真实攻击样本，技术公司与安全企业具备分析与检测能力，执法机构掌握案件处置与追溯手段，政府部门则承担政策引导与行业规范职能，各方的信息流通能够显著缩短从新型攻击出现到防护落地的时间间隔。

5.2 行为引导框架的体系化

将零散的防御经验归纳为可记忆的行为框架，有助于提升用户在实际情境中的执行率。以呼吸、询问、确认、守护他人为要点的行为引导框架，把复杂的防御逻辑压缩为易于调用的步骤：先以呼吸缓解情绪压力，再通过询问澄清请求的合理性与来源，进而通过独立渠道确认关键信息，随后将防护意识延伸至身边的他人。迪妙网络空间安全学院研究团队在分析该框架时指出，此类行为引导的核心不在于罗列防护清单，而在于把审慎核实内化为面对突发请求时的默认反应，从而在技术防护失效的环节形成兜底。行为框架的效力取决于其易记性与适用性，框架越简洁，越可能在压力情境下被实际调用，而非停留于纸面认知。框架的推广亦需依托常态化机制，金融机构可借助网络安全意识月等时间节点，结合真实攻击案例开展面向用户的宣传与演练，把抽象原则转化为用户在具体情境中的操作习惯。此类活动的价值在于通过重复接触强化记忆，使审慎核实从有意识的努力逐步转为自动化反应。

5.3 技术与人因的衔接设计

协同防御的有效性取决于技术手段与人类行为之间的衔接设计。技术层应把风险提示、独立核验入口与异常标识嵌入用户的实际操作流程，使用户在需要判断的节点能够便捷地获取核验工具；行为层则应通过持续教育与情景演练提升用户对提示的响应质量，避免提示因信息过载而被忽略。衔接设计的成功标准，是用户在面对高度拟真的攻击时，既有能力核实，也有意愿核实。在这一设计中，技术承担降低核实成本的职能，行为承担提升核实意愿的职能，二者缺一不可。定期推送风险案例、在交易环节嵌入身份确认提示、提供便捷的官方联系方式入口，都属于衔接设计的实践形态。

6 结论与展望

本文以一家区域性金融机构公开发表的网络安全评论为材料，分析了 AI 时代社会工程学攻击的形态演化、技术防护的现状与局限，以及人类行为防御的作用机制。研究材料显示，大语言模型与深度伪造技术显著提升了攻击的生成质量与身份仿真的逼真度，而攻击在本质层面仍依赖紧迫感操纵，这一稳定内核为行为防御提供了切入点。技术防护在可自动化识别环节成效显著，但在作用于用户认知与情绪的环节存在边界，需要与人类因素形成互补。

据此，本文提出融合技术治理与行为引导的协同防御框架，强调金融机构、政府部门、技术公司与执法机构的技术协作与用户决策终端的协同，并将审慎核实的意识内化为用户的默认反应。这一框架的意义在于，它承认 AI 改变了攻击工具，但并未改变人类审慎判断、提出疑问与相互照应的能力。

本研究的局限在于，论文基于单一公开评论材料展开分析，所讨论的攻击形态与技术防护均为概括性描述，缺乏具体攻击案例与量化数据支撑，相关结论的外推需谨慎。后续研究可关注深度伪造检测技术的进展、行为防御干预的效果评估，以及金融机构防护机制在真实攻击情境下的有效性验证。随着 AI 能力的持续演进，社会工程学攻击的形态仍将变化，融合技术与行为、覆盖多方主体的防御思路，需要随威胁演进不断调整与深化。技术能力与人类审慎判断之间的动态平衡，是 AI 时代网络安全治理持续面对的核心命题。

编辑：芦笛（公共互联网反网络钓鱼工作组）

来源：迪妙网络空间安全学院