经典案例

人工智能如何减轻员工报告恶意邮件的挫败感

2025-05-13

邮件安全持续面临高风险

关键要点

自2013年以来,电子邮件造成的安全损失高达510亿美元,成为首要的网络安全风险。虚假社会工程手法使得人类用户成为安全链中最薄弱的一环,导致网络攻击频发。许多机构采用安全意识培训工具以提高员工识别安全威胁的能力,但有时反而增加了安全团队的工作负担。利用人工智能AI自动化处理用户报告的钓鱼邮件工作流程,可以显著提升效率和用户体验。

根据FBI互联网犯罪投诉中心的报告,自2013年以来,电子邮件已经造成了支付超过510亿美元的损失。这种现象的原因在于,威胁行为者意识到人类用户在安全链中是最脆弱的环节,容易通过欺骗性社会工程手法被利用。因此,钓鱼、商业邮件诈骗(BEC)、供应商欺诈等攻击手段愈发猖獗。去年,商业邮件诈骗案件的数量增加了108。

许多组织已投资于安全意识培训工具,以应对不断增长的邮件威胁,这些工具旨在教授员工识别邮件威胁的技巧和最佳实践,包括如何报告可疑邮件。

尽管这些项目出发点良好,但常常使得安全团队面临双重挑战。我们希望用户能报告可疑邮件,但安全意识培训的增多往往导致员工开始报告所有邮件即便是完全安全的邮件。

此时,安全团队不得不通常是手动地处理看似无尽的员工报告邮件队列。手动分类、修复和响应邮件非常耗时,还可能导致用户体验差,并错失继续为员工提供安全教育的机会,因为员工很少理解自己报告的邮件为何被认为是无害的。

那么,安全团队如何在不耗尽团队资源的情况下,继续打造精通网络安全的工作环境呢?答案就在于AI。

自动化用户报告邮件的工作流程

用户报告的钓鱼邮件工作流程已成为安全团队当前面临的最低效的操作流程之一,涉及多个繁琐步骤。

一旦用户报告邮件并创建帮助台工单,团队必须审核和分类报告的邮件,检查相同发件人或来自同一宣传活动的其他邮件以确定它们是否也发给了组织内的其他人,并修复这些邮件。经过全面分析后,他们还必须手动回复每位报告者,告知提交结果。

人工智能如何减轻员工报告恶意邮件的挫败感

虽然这种方式在理论上可行,但在实际操作中,当每日处理数百甚至上千封邮件时,情况截然不同。网络罪犯通常会大量发起钓鱼攻击,希望能提高不知情的员工上当受骗的可能性。由于AI在处理重复性任务方面表现出色,该用户报告的钓鱼工作流程便成为了自然的应用场景。安全分析师有巨大的机会对这个过程的更多环节进行自动化,借助AI支持用户报告邮件的分类和分析。

通过模拟人类在识别可疑特征时所经历的调查过程,AI同样可以对用户报告的邮件进行检查,并判断其是否为恶意、垃圾邮件、安全邮件或钓鱼模拟,且常常能实现更高的准确性。对于恶意或垃圾邮件,AI辅助调查还可以识别所有邮箱中相似的邮件,甚至跨多个租户进行批量修复。这样一来,可以极大地释放分析师的宝贵时间,让他们专注于调查复杂威胁和进行主动威胁猎捕等更重要的任务。

提升安全意识

此外,传统的用户报告钓鱼邮件工作流程通常缺乏给员工和安全团队的反馈循环。由于时间限制,安全团队并不总是能够向报告者发送反馈,告知他们提交结果。

这不仅错失了与员工进行持续安全意识培训的宝贵机会尤其是针对其特定邮件的定制培训,也限制了对整体流程有效性的可见性。员工对结果一无所知,可能会导致他们在未来不愿意报告可疑邮件。发送基于模板的响应虽然是一个不错的替代方式,但仍然无法在有意义的方式上提升安全意识。

一元机场clash官网

当然,这又让安全团队面临相同的困境:如何在不消耗有限资源的情况下