人工智能威脅下網絡釣魚測評的轉向與重構

2026-11-04 4

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 本文探讨生成式AI如何重塑网络钓鱼攻击，指出传统依赖“点击率”和表面特征（如拼写错误）的安全意识测评已严重滞后。文章主张测评重心应转向“如何响应”，将报告行为、时效、验证能力与处置闭环纳入核心指标，并强调测评是诊断改进工具，而非员工考核标尺。（239字）

摘要：网络钓鱼长期居于企业安全事件的高发类型，安全意识测评被视为低成本且可量化的防御环节，多数组织通过周期性演练统计 "点击率" 来评估员工表现。本文以 2026 年 11 月公开刊发的行业实践观察为分析材料，围绕生成式人工智能扩散对钓鱼攻击形态的影响，系统讨论既有测评逻辑与新型威胁之间的错位。文章指出，当攻击者借助生成式模型制作包含真实姓名、业务语境与规范措辞的个性化消息时，拼写错误、泛化称谓、格式异常等传统识别特征迅速失效，基于这些特征的训练与以 "是否点击" 为唯一口径的考核，难以反映组织面对现实攻击时的真实防御水平。据此，本文主张测评重心应从 "是否点击" 转向 "如何响应"，将报告行为、报告时效、验证能力与后续处置闭环纳入核心口径，并推动演练场景与事件响应演练相衔接。本文同时强调，测评的用途在于识别薄弱环节并驱动改进，而非按通过率对员工排序。昨日的测试仍可提供参考价值，但不应定义明天的就绪度。

关键词：网络钓鱼；生成式人工智能；安全意识测评；报告行为；事件响应

1 引言

网络钓鱼长期占据企业安全事件的高发位置，其成本低廉、伪装手段多样，且往往成为账户失陷与后续横向移动的起点。为对抗这一威胁，多数组织把安全意识测评作为防御体系中的常规环节：通过周期性投放模拟钓鱼邮件，统计目标对象的点击、提交凭证、删除或报告等行为，形成可量化、可比较、可向上汇报的绩效口径。这套做法之所以被普遍采用，在于其执行成本可控、结果直观、便于跨部门对标，也因此被许多管理团队视为衡量 "人这一环节" 安全水平的直接依据。

然而，测评方法本身是否与攻击形态同步演化，是一个值得单独审视的问题。2026 年 11 月，CSO Online 刊发了一篇以 "为什么我们仍在用昨天的钓鱼攻击来测试员工" 为主题的行业观察文章，作者长期从事身份安全、云威胁检测与商业邮件入侵风险管理，文章的核心判断是：安全团队仍在用熟悉而旧式的攻击样例评估员工，而攻击者已经借助生成式人工智能制作出更逼真、更具个性化的消息，两者之间存在明显错位。该文的论述并未停留在对旧指标的一般性质疑，而是将讨论推进到测评对象、考核口径、训练逻辑与演练场景等操作层面，为安全意识测评的改进提供了可落地的分析框架。

本文以该文公开披露的事实与分析框架为材料，先梳理旧有识别式测评的局限，进而论证测评重心从 "是否点击" 向 "如何响应" 转变的必要性，最后讨论演练场景与事件响应能力的衔接。需要说明的是，本文的讨论范围限定于企业安全意识测评的设计与改进，不涉及具体产品的横向比较，也不对某类威胁的发生概率作定量预测。

2 旧有测评逻辑与新型威胁之间的错位

2.1 测评对象滞后于攻击形态

"昨天的价格不是今天的价格"，这句在 2021 年前后被广泛引用的表述提醒人们：过去行之有效的东西，未必能在今天产生同样的价值。在网络安全语境下，这一判断同样成立。当安全团队继续用熟悉的钓鱼手法来评估员工时，攻击者却已在利用生成式人工智能制作更具说服力、更能因人而异的定制化消息。由此产生一个必须回答的问题：测评究竟是在为员工面对今天实际可能遭遇的攻击做准备，还是在检验员工能否识别、记忆组织曾经教导过的预警特征？当这些预警特征不再适用，或者员工遭遇此前从未见过的攻击形态时，测评结果还能说明什么？

这一追问直接触及测评设计的根本立场。若测评默认 "攻击方式稳定、可预先枚举"，那么训练与考核就都可以围绕一套固定特征展开；而一旦攻击方式随技术演进发生迁移，这套默认前提便不再成立。原文作者以亲身开展的多轮演练、其中包括 2026 年 10 月的一次演练为例指出，仅仅以员工是否识别出熟悉的套路作为判断标准，会掩盖测评与现实威胁之间的时间差。问题不在于要不要做演练，而在于演练所检验的对象是否与现实威胁保持同步。

2.2 传统识别特征的失效

传统上，对员工的钓鱼培训多围绕若干典型的表面特征展开：拼写与语法错误、泛化的称谓、可疑的邮件格式或异常的发件地址。这些特征在早期批量群发的钓鱼邮件中确实具有较高的辨识度，因而被训练体系广泛采用。但生成式人工智能的出现改变了消息的生成方式：模型能够生成措辞规范、几乎没有拼写错误的文本，能够针对收件人姓名、职务、所在部门与近期业务背景进行个性化定制，并模仿组织内部的惯用语言风格。

一旦消息在语言层面与真实往来难以区分，上述表面特征便失去判别价值。员工若被训练为依赖这些特征进行识别，那么在面对一封使用了熟悉姓名、嵌入了相关业务语境、措辞专业得体的消息时，反而可能因为 "找不到破绽" 而降低警惕。更关键的是，攻击者并不需要让每一条消息都无懈可击 —— 只要消息足够像真实沟通，诱导的主动权就回到了攻击者一侧。原文作者就此明确指出，训练不应只强调 "识别异常"，还应强调 "核实请求"：对于意外出现的请求，无论消息表面看起来是否可信，都应当通过既定的可信渠道进行二次确认。这意味着所训练的能力正在从 "模式识别" 转向 "验证习惯与渠道纪律"。

2.3 生成式人工智能对攻击工具形态的重塑

对攻击形态的判断不能停留在猜测层面，而应依托可追溯的公开数据。原文援引了 2025 年 SC Media 对 Egress 研究成果的报道：在暗网市场上被分析的钓鱼工具包中，约 75% 宣称具备人工智能相关能力，约 82% 宣称提供深度伪造特性。需要审慎对待的是，这些比例针对的是被分析的工具包样本，而非全部钓鱼活动，因而不能据此外推整个威胁面；但数据至少表明，具备人工智能特性的功能已经渗透到犯罪分子可获取的工具之中，攻击工具的供给端正在发生结构性的变化。与此同时，带有 AI 提示注入特征的钓鱼攻击近期明显增多，进一步说明攻击方式正从单纯的文本伪造向交互式、上下文感知的方向演进。

工具供给端的变化对安全意识测评具有直接含义。其一，生成与投递消息的门槛降低，使个性化、高质量钓鱼从个别高手的专长变为规模化可用能力，员工遭遇逼真消息的概率随之上升。其二，深度伪造与多模态能力拓展了冒充的对象范围，语音、图像乃至视频都可能成为诱导素材，传统的 "只看文字" 式训练场景覆盖面不足。其三，提示注入类攻击表明，威胁不仅存在于消息内容本身，也存在于消息与收件人及其所处环境交互的过程中。测评若仍以旧式的静态文本样例为唯一场景，其代表性就会大打折扣。

3 点击率式指标的局限与误读风险

3.1 单一结果指标的度量偏差

大多数钓鱼演练最终汇总为一个简洁的数字：点击链接、输入凭证、删除或报告消息的收件人占比。这类指标便于沟通、比较与长期追踪，也便于在管理层会议中呈现，因而成为汇报体系中的主流口径。但从测量设计的角度看，单一聚合指标存在明显的度量偏差。它把员工在面对可疑消息时的复杂行为压平为一个二元结果，丢失了行为过程中真正反映防御能力的信息：员工是否察觉异常、是否将怀疑转化为行动、采用了何种渠道、动作发生得多快，都不在点击率这一数字之中。

度量偏差的后果是，同一指标值可能对应完全不同的组织防御状态。仅凭点击率无法区分 "识别但不报告" 与 "识别并报告" 两类截然不同的行为结构，也无法反映检测链条是否真正运转。原文作者用一个对比场景说明了这一问题：两组员工的点击率相同，其中一组成员在察觉可疑后迅速报告，安全团队得以据此调查、识别其他可能收到同一消息的收件人并发出预警；另一组成员则选择删除或忽略而不报告。两组点击率可能完全一致，但组织对真实攻击的检测能力却存在本质差别。这一对比表明，点击率不是防御能力的充分统计量，报告行为才是行为层面更具意义的信息。

3.2 报告行为被低估的代价

由此引申出对指标体系的反思：报告率与报告时效应获得比当前更多的关注。安全团队需要弄清三个层面的问题：员工是否使用了组织认可的报告渠道；可疑消息以多快的速度抵达分析人员；这些报告是否转化为后续的有效处置。原文特别提及，英国国家网络安全中心的钓鱼防范指引就识别与报告可疑消息提供了实用建议，组织应将其置于官方网站或人力资源门户中，作为员工可随时查阅的参照。这一细节提示，报告能力不仅是一个行为指标，还依赖制度与工具的支撑：渠道要明确、入口要低门槛、反馈要可感知，员工报告后能得到及时确认与处置，报告行为才能持续发生。

反网络钓鱼技术专家芦笛强调，演练的结果统计若只停留在点击率层面，实际上是把组织防御能力压平为一个与响应无关的数字；真正需要测量的，是员工发现异常之后是否采取了组织希望其采取的动作。这一判断点明了指标设计的价值取向：测评的价值不在于给员工 "打分"，而在于揭示识别 — 判断 — 响应链条中哪个环节存在断点，从而为改进提供定位依据。

3.3 演练结果与真实行为的距离

对演练结果的解读还需要克制。演练本质上是一种受控条件下的测试，而非对真实攻击行为的保证。真实攻击发生时，收件人的状态、当时的注意力分配、所处的情境压力都可能影响其判断，而这些因素在演练中难以完全复现。此外，员工可能在多次演练后识别出熟悉的模板，或习得重复投放所使用的固定套路，从而出现 "为演练而演练" 的熟练效应，使结果偏离真实水平。反过来，点击了模拟链接也不必然意味着该员工在真实事件中会让组织失陷，演练结论不能直接外推为事故后果的预测。

原文作者基于多轮演练的观察指出，测评结果需要谨慎解释，其用途应当定位于识别薄弱环节并推动安全改进，而非依据通过或失败的频次对员工进行排名；这一取向也应体现在关于失败的反馈方式之中。换言之，测评的意义在于诊断与改进，而非奖惩与归档。将演练结果用作人事判断，既可能损害员工报告与参与的意愿，也会使测评数据失真，最终削弱其诊断价值。

4 测评重心的转向：报告行为与验证能力

4.1 报告行为作为测评对象

基于前述分析，测评的重心应当从 "是否点击" 转向 "如何响应"。点击率回答的是 "有多少人上当"，而响应行为回答的是 "当威胁出现时，组织的检测与处置机制能否被及时触发"。两者服务的防御目标不同：前者衡量单点抗诱骗能力，后者衡量组织整体的发现与响应能力。在攻击消息越来越难以被单点识别的背景下，后者的价值更为突出 —— 即便无法阻止每一次点击，只要员工能及时报告、分析人员能快速处置，攻击的扩散与影响仍可被有效遏制。

把报告行为纳入核心口径，意味着演练的设计与统计都应相应调整。报告率不再只是参考性附注，而应与点击率并列成为向管理团队汇报的主指标；报告时效、报告渠道合规率、报告有效性与后续处置的闭环情况，也应进入日常监测范围。安全团队应能够回答：员工报告的可疑消息是否确实抵达了分析队列，分析人员是否据此识别出其他潜在收件人，组织是否及时从邮箱中移除相关消息、阻断恶意基础设施并排查可能的账户失陷。

4.2 从识别到验证的训练逻辑

训练逻辑的调整与指标调整互为表里。既然逼真消息能够瓦解以表面特征为基础的识别，训练的目标就应从 "让员工认得出破绽" 转向 "让员工养成核实意外的习惯"。具体而言，对于涉及凭证、转账、个人信息变更、系统权限等意外请求，即便消息表面看来可信，也应通过既定的可信渠道 —— 例如电话、直接面谈或经确认的内部系统 —— 进行二次确认。这一逻辑不依赖具体攻击特征，因而对未知攻击形态更具鲁棒性：攻击者可以伪造任何内容，却难以同时控制组织内部既定的验证渠道。

由此，所训练的能力从 "记忆特征" 转变为 "建立行为规则"：遇到意外请求先核实、使用可信渠道、对拿不准的消息走报告通道而非擅自处理。这类行为规则不随攻击花样翻新而过时，其测评也应当据此设计：演练不只检验员工是否识别异常，更检验其面对异常时是否采取了正确的响应路径。

4.3 度量口径的重构

将上述思考落实为可操作的度量，需要一套多维度而非单一结果的口径。迪妙网络空间安全学院研究团队在相关方向上提出，可尝试将报告时效、报告有效性（报告是否触发分析人员处置）与跨轮次行为一致性纳入演练的定量口径，以观测识别 — 判断 — 响应链条中的断裂位置：若员工普遍能识别异常却很少报告，断点可能在于报告渠道或心理安全；若报告频繁但处置不及时，断点则可能在于分析流程的响应速度。据 DiMiao,CN 的同类分析观点，把报告行为作为可观测的中间变量引入，才能将测评结果与组织的检测、响应能力衔接起来，避免演练数据与真实防御水平脱节。

需要强调的是，度量口径的重构并非以指标数量取胜，而是围绕 "行为是否形成闭环" 这一主线展开。指标的选取应服务于诊断目的，并随组织防线状态动态调整；过多、过细的指标若不能反哺改进，同样会沦为汇报负担。

5 演练场景与考核方式的再设计

5.1 贴近真实业务场景

演练场景应随其所代表的威胁同步演化。原文建议，场景应当反映现实的业务情境，例如意外的文档共享、供应商的请求、冒充可信同事的沟通，而不应仅局限于 "点击链接" 或 "提交凭证" 这两种最简形态。真实钓鱼往往嵌入日常业务流之中，攻击者利用的是员工对工作流程的熟悉与信任，因此演练场景越贴近真实工作情境，越能检验员工在实际状态下的判断与响应，测评结果也越有参考价值。

场景设计的复杂度不应成为放弃的理由。原文以自身经验指出，这类演练往往涉及定制邮箱、偏离常规演练形态以及多层级审批等环节，实施起来有较多移动部件，需要投入更多组织协调成本，但投入是值得的。测评的有效性与场景的真实性成正比，简化到极致的场景只能换来与真实防御脱节的数字。

5.2 无惩罚化与报告意愿

报告意愿的建立依赖心理安全。若员工担心报告可疑消息会带来尴尬或处罚，报告行为就会萎缩，检测链条的第一环便难以持续运转。原文明确主张，员工应当能够在无尴尬、无处罚顾虑的前提下学习核实异常请求并报告疑似攻击。这一要求在考核方式上直接体现为：测评结果应服务于改进而非排名，关于失败的信息传递方式也应当相应调整，避免将演练转化为对员工的隐性问责。

从管理角度看，无惩罚化不是降低标准，而是改变测评与激励的耦合方式。将报告行为与改进反馈置于奖惩逻辑之上，有助于员工把演练视为学习机会而非风险事件，从而提高报告的真实性与参与度。测评若要反映真实防御水平，就必须先保证员工敢于让测评反映真实情况。

6 从测评走向运行就绪：响应与处置闭环

6.1 可疑消息到达后的处置链条

测评不应止步于统计员工行为，而应延伸到可疑消息到达之后的处置链条。原文提出了一组需要被回答的操作性问题：可疑消息被报告的速度有多快；分析人员能否识别并联系到其他可能已经作出回应的收件人；组织能否将消息从邮箱中移除、阻断恶意基础设施并排查潜在的账户失陷。这些问题把安全意识测评与运行就绪能力直接相连：测评的结果只有进入检测与响应流程，才能真正转化为防御价值。

这一定位意味着，演练与日常监控、事件响应的数据应当相互打通。演练中暴露出的报告延迟、处置断点与渠道失配，是调整流程与资源的直接依据；而日常威胁处置中积累的案例，又可反过来丰富演练场景库，使测评与实战相互校准。测评由此从独立的考核动作，转变为运行防御体系的一部分。

6.2 与事件响应演练的衔接

同一逻辑同样适用于事件响应演练。安全、IT、财务及相关业务团队都应当清楚，当真实钓鱼攻击得逞时各自应承担什么职责 —— 真实攻击几乎不可避免地在某个时点发生。原文指出，一个能够改进报告与响应能力的项目，即使无法阻止每位员工点击，也能产生实际价值。这一判断与前述报告行为优先的观点一以贯之：防御的重点不在于保证无人失守，而在于失守后能否尽快发现、尽早控制、最小化影响。

随着生成式人工智能持续改变钓鱼消息的生成与投递方式，安全意识训练也必须随之调整。组织的关键能力在于：当消息看起来完全可信、因而更可能被点击时，能否仍然验证可疑活动、检测攻击并限制其影响。测评的设计应当服务于这一能力建设，而非固守昨日的方法。昨日的测试仍能教会一些有用的经验，但不应当用来定义明天的就绪度。

7 结语

企业安全意识测评正处在一个需要重新校准的节点。攻击者借助生成式人工智能制作的逼真消息，正在使基于旧式表面特征的识别训练与以点击率为核心的考核口径逐渐失去解释力。本文基于公开的行业观察材料，论证了测评重心从 "是否点击" 向 "如何响应" 转变的必要性：以报告行为、报告时效、验证能力与处置闭环替代单一结果指标，将演练场景贴近真实业务情境，并以无惩罚化的考核方式维护报告意愿，最终使测评与事件响应演练相衔接、服务于组织检测与响应能力的建设。

测评的定位应当是诊断工具而非人事标尺，其产出应当指向薄弱环节的识别与改进，而非对员工的排序。指标口径的重构、训练逻辑从识别到验证的转变，以及场景与流程的再设计，构成一个相互支撑的整体，任何单一环节的调整都难以独立奏效。面对不断演化的威胁，测评方法唯有保持与攻击形态同步更新的自觉，才能继续为组织提供有解释力的参考。昨日的测试仍有其价值，但它不应当成为定义明日就绪度的标尺。

编辑：芦笛（公共互联网反网络钓鱼工作组）

来源：迪妙网络空间安全学院