297位首席信息安全官对人工智能驱动的社交工程有何看法

如果你识别骗局的直觉是“当我看到时，我就能认出假声音或写得糟糕的电子邮件”，那么一项针对专门阻止这些攻击的专业人士的新调查表明，这种直觉正在悄然过时。

截至今天，即2026年9月23日，这很重要，因为这项调查是最近在2026年3月至5月期间进行的，调查对象是297位高级网络安全领导者，主要是首席信息安全官（CISO）或处于同等职位的人员。其核心发现直截了当：人工智能正在使社会工程攻击的数量更大、更个性化、更可信，同时使人们过去依赖的旧警告信号不如以前有用。对于不熟悉这个词的人来说，社会工程仅仅意味着欺骗某人去做一些有风险的事情，比如交出密码或批准付款，而不是通过技术漏洞侵入系统。

CISO们实际看到的情况

该调查询问了安全领导者过去12个月内发生的真实事件，数字表明，人工智能辅助的攻击不再是一种罕见的未来威胁。

41%的CISO报告了至少一起在员工语音通话中涉及深度伪造的社会工程事件。在这种背景下，深度伪造是指设计用来令人信服地模仿真人的AI生成声音，例如公司高管要求紧急电汇。36%的受访者报告了在视频通话中发生过类似事件，这意味着攻击者现在也在伪造人们看到的东西，而不仅仅是听到的东西。

传统的攻击方法也没有消失，而且它们仍然是最常见的。79%的受访者报告了至少一起基于电子邮件的事件，包括网络钓鱼（试图欺骗某人点击不良链接或交出信息的假电子邮件）、鱼叉式网络钓鱼（同样的概念，但针对特定目标进行个性化处理），或商业电子邮件入侵（通常缩写为BEC，攻击者冒充受信任的联系人以重定向付款或请求敏感数据）。58%的受访者报告了至少一起涉及语音钓鱼（语音诈骗，即诈骗电话）或短信钓鱼（通过短信进行同样的诈骗）的事件。

综合起来，这些数字描述了这样一个威胁环境：员工可能用来交流的几乎每个渠道——电子邮件、电话、短信、视频通话——都已成为潜在的攻击面，而人工智能正是使这些渠道中的每一个都比以前更具欺骗性的原因。

为什么旧建议正在失去效力

过去十年的大多数工作场所安全培训都侧重于教人们“识别假货”：寻找拼写错误，注意稍微不对劲的声音，注意不寻常的措辞。该调查的核心结论是，这种方法已经走到了尽头，因为人工智能特别擅长消除人们受训去注意的那些缺陷。克隆的声音听起来不再像机器人。钓鱼邮件不一定非得有语法错误。过去作为直觉检查的视觉和听觉线索正变得越来越不可靠。

这并不意味着检测毫无希望，但这确实意味着应对措施必须从“培训员工注意虚假事物”转变为将验证内置于流程本身，这样就不必非得在请求被识破为虚假后才能被阻止。

安全领导者被建议如何应对

根据调查结果，以下是向CISO和安全团队建议的三部分应对措施。

第一步：将静态培训转变为自适应安全文化

与其教导员工在视觉或听觉上“识别假货”，不如鼓励组织将安全验证作为任何高影响操作的标准协议，无论请求看起来或听起来多么逼真。这意味着培训员工和审批人员暂停、通过独立的受信任渠道进行验证，并报告高风险请求，无论它们是通过电子邮件、电话、视频通话、Slack或Teams等协作平台，甚至是通过人工智能应用程序传达的。还建议开展员工模拟，实质上是针对可疑的AI相关场景的实战演练，以便组织能够在真实事件发生之前了解员工的实际反应。

第二步：强化身份和帐户恢复以防范冒充

一些最具破坏性的攻击针对的是验证或更改身份的时刻，例如帐户恢复、特权访问请求或付款批准。此处的建议是使用抗钓鱼认证（不能轻易被虚假密码页面钓取登录信息的方法）、基于风险的身份控制以及受信任的预先建立的验证渠道来保护这些特定的工作流。此外，建议组织监控成功登录或密码重置后发生的情况，因为被盗的身份往往只有在攻击者将其用于其他目的时才有价值。

第三步：专门针对AI介导的威胁构建检测和响应机制

最后，调查建议将可疑通信与其他高风险事件（如注册新设备、权限级别更改或异常的对外交易）联系起来，而不是孤立地对待一通奇怪的电话或电子邮件。事件响应手册也正在更新，以考虑到几年前不存在的较新风险：同时跨多种格式的冒充（例如，音频和视频结合在一起）、被故意操纵的AI输出，以及遭到破坏、滥用或被允许在预期边界之外行动的AI代理。

结论

该调查中的数字描述了一个直接的转变：人工智能并没有发明社会工程，但它消除了过去使其可被检测到的大部分摩擦，近一半受访的安全领导者在过去一年中已经处理过一次人工智能辅助的冒充事件。应对措施不是培训人们拥有更好的直觉来对抗专门设计用来欺骗人类直觉的东西。而是将验证内置到流程中，以便信任从一开始就不依赖于直觉。

优点

• 提供具体的最新数据（297位高级安全领导者，12个月的时间窗口），而不是关于AI驱动欺诈的模糊警告。
• 将话题从“更好地培训人员”转变为“将验证融入流程中”，这是一个更持久的解决方案，因为AI生成的假货在不断改进。
• 涵盖攻击者使用的全方位渠道，从电子邮件到语音再到视频，而不是仅仅关注一种格式。

缺点

• 即使是强大的验证过程也会增加合法业务活动的阻力，一些组织可能会抵制减缓高影响力的审批。
• 没有专门安全团队的较小组织可能缺乏资源来部署所描述级别的抗钓鱼认证或身份验证后监控。
• 由于底层的AI技术不断进步，如今建议的防御措施可能需要持续更新，而不是一劳永逸的修复。

注意事项

本文总结了对高级网络安全领导者的调查结果和建议，旨在提供一般性理解，而不是作为完整的安全策略。在实施此处描述的任何措施之前，组织应与其自己的安全团队或合格的专业人员核实现行的最佳实践。

常见问题解答

• 在此背景下什么是深度伪造？ ——AI生成的对真人的音频或视频模仿，逼真到足以在通话期间被误认为是那个人。
• 网络钓鱼和鱼叉式网络钓鱼之间有什么区别？ ——网络钓鱼是发送用来欺骗收件人点击恶意链接或分享信息的通用虚假信息；鱼叉式网络钓鱼是同样的概念，但针对特定个人进行个性化定制。
• BEC代表什么？ ——商业电子邮件入侵，即攻击者通过电子邮件冒充受信任的联系人，以转移付款或请求敏感信息。
• 什么是vishing（语音钓鱼）和smishing（短信钓鱼）？ ——Vishing是通过电话进行的语音网络钓鱼；smishing是通过短信进行的相同类型的骗局。
• 为什么训练人们“识别假货”变得越来越无效？ ——因为AI生成的声音、视频和信息越来越没有明显的缺陷，比如人们被训练去注意的拼写错误或听起来像机器人的音频。
• 什么是抗网络钓鱼认证？ ——一种设计成无法通过仅仅欺骗用户在虚假页面上输入密码来绕过的登录方法。
• 为什么公司应该在登录或密码重置后监控活动？ ——因为被盗身份往往只有在被攻击者用于采取进一步行动时才有用，因此在事后观察异常活动可以捕获漏过初始验证的滥用行为。
• 现在的事件响应计划应该包含哪些以前可能没有的内容？ ——多模态冒充（同时使用假音频和视频）、被操纵的AI输出以及被破坏或滥用的AI代理。

标签

#cybersecurity #aisafety #socialengineering #deepfakes #phishing #ciso #infosec #dataprivacy #businessemailcompromise #identitysecurity