71%的AI检测器无法检测出ChatGPT撰写的钓鱼邮件

发布时间：2023-12-17 16:26:45 所属栏目：安全来源：DaWei

导读： 近日，邮件安全公司Egress发布的《2023年网络钓鱼威胁趋势报告》对迄今为止的流行网络钓鱼趋势进行了分析。报告回顾了今年最常见的钓鱼主题，并预测了接下来的发展趋势，同时研究了网络犯罪

近日，邮件安全公司Egress发布的《2023年网络钓鱼威胁趋势报告》对迄今为止的流行网络钓鱼趋势进行了分析。报告回顾了今年最常见的钓鱼主题，并预测了接下来的发展趋势，同时研究了网络犯罪分子用于绕过边界防御机制的流行混淆技术，以及聊天机器人对网络钓鱼威胁的影响。

1. LLM降低了网络犯罪的准入门槛
曾几何时，通过错误的语法、拼写和荒谬的请求，可以发现很大比例的网络钓鱼邮件。在ChatGPT推出之前，这些攻击远没有那么复杂，而且得益于网络犯罪的商品化，相关犯罪网络的增长，以及犯罪即服务生态系统（包括网络钓鱼工具包和预先编写的恶意软件等产品），这些攻击的数量正有所增加。

LLM最令人担忧但最少被提及的应用可能是侦察高度针对性的攻击。在几秒钟内，聊天机器人就可以从互联网上获取关于选定目标的开源情报（OSINT），这些情报可以用于社会工程。

2. 假托（Pretexting）VS 有效载荷：社会工程邮件有多普遍？
威胁情报分析人员将网络钓鱼邮件的字符长度与其有效载荷相关联。为此，他们分析了170万封网络钓鱼邮件，以确定它们是否包含网络钓鱼链接或基于附件的有效载荷，或者它们是否“无有效载荷”（payloadless），仅依赖于社会工程。

数据显示，少于100个字符的网络钓鱼邮件有90%的可能性包含附件作为有效负载。钓鱼网站的链接在100 - 1199个字符之间最为普遍。字符长度在1500个或更多（大约200 -375个单词之间）时，攻击更有可能依赖于社会工程。

到目前为止，2023年社会工程的流行程度略有增加。通过分析2022年1月至12月期间各组织收到的网络钓鱼邮件，威胁分析师发现，17.98%的网络钓鱼邮件仅依赖于社会工程。在2023年1月至9月期间，这一数字上升至19.01%。通常，社会工程策略会与不同的有效负载相结合。

3.组织是否该担心LLM和网络钓鱼？
这一切都取决于组织的防御能力。如果组织仅依靠传统的基于签名和声誉的边界检测，那么是时候部署云电邮安全（ICES）解决方案了，它不依赖于定义库和域名检查来确定邮件是否合法。相反地，ICES将人工智能交到防御者手中，使用自然语言处理（NLP）和自然语言理解（NLU）等模型来分析邮件内容，以寻找网络钓鱼的语言标记。这些解决方案还使用机器学习来检测带有零日和新兴恶意软件负载的网络钓鱼邮件。

最终，网络钓鱼（而非LLM）仍然是主要的压力源。攻击是由人类还是机器人编写的并不重要，重要的是组织的防御系统能否检测到它。这些攻击往往是针对特定的应用程序，例如网络安全软件，因为它们可能需要在不同的环境中运行。

然而，遗憾地是，有44.9%的网络钓鱼邮件不符合250个字符的限制，还有26.5%的邮件低于500个字符，目前人工智能探测器要么不能可靠地工作，要么根本不能处理71.4%的攻击。这意味着，如果你的电子邮件被黑客利用，它可能会导致大量数据泄露。

（编辑：大连站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!