AI代理商的网络攻击即将到来

代理是对AI行业的讨论，他们有能力计划，推理和执行复杂的任务，例如调度会议，订购杂货，甚至接管您的电脑代表您更改设置。但是，使代理商有帮助的助手的同样复杂能力也可以使其成为进行网络攻击的强大工具。他们很容易被用来识别弱势目标，劫持他们的系统，并从毫无戒心的受害者中窃取有价值的数据。” 

目前，网络犯罪分子还没有部署AI代理来大规模入侵。但是研究人员证明了代理人有能力的执行复杂攻击（（例如，人类观察到其Claude LLM成功复制了攻击旨在窃取敏感信息），网络安全专家警告说，我们应该期望开始看到这些类型的攻击涌入现实世界。

“我认为最终我们将生活在一个由代理商进行的大多数网络攻击的世界中。这实际上只是一个问题，我们到达那里的速度有多快。

帕利塞德研究负责人的德米特里·沃尔科夫（Dmitrii Volkov）说，我们的目的是尝试理论上的关注。我们正在寻找一个急剧的上升，当这种情况发生时，我们会知道安全格局已经改变。在接下来的几年中，我希望看到自主黑客剂被告知：这是您的目标。去破解它。

AI代理代表了网络犯罪分子的有吸引力的前景。他们比雇用专业黑客的服务便宜得多，并且可以比人类更快，更大的规模来协调攻击。虽然网络安全专家认为勒索软件攻击斯托克利说，最有利可图的种类相对较少，因为它们需要大量的人类专业知识，这些攻击将来可能会外包给代理商。•如果您可以将目标选择的工作委托给代理商，那么突然间，您可以以目前不可能的方式扩展勒索软件。”<如果我可以再现一次，那么我只能重现100次的钱。

与通常用于入侵系统的机器人相比，代理也明显聪明。机器人是通过脚本运行的简单自动化程序，因此它们难以适应意外的情况。另一方面，代理商不仅能够适应他们与黑客目标的互动方式，而且还可以避免侦查 - 这两者都超出了有限的脚本脚本计划的能力。他说，他们可以研究目标，并猜测最佳的渗透方法。”这种事情是无法触及的，例如愚蠢的脚本机器人。

自从LLM特工Honeypot于去年10月上线以来，它已记录了超过1100万次尝试访问它的尝试 - 其中绝大多数来自好奇的人类和机器人。但是其中，研究人员已经发现了八个潜在的AI代理，他们确认的两名代理人分别来自香港和新加坡。 

沃尔科夫说，我们猜测，这些确认的代理是人类直接发起的实验，诸如互联网的议程，试图对我来说很有趣。”该团队计划将其Honeypot扩展到社交媒体平台，网站和数据库中，以吸引和捕获更广泛的攻击者，包括垃圾邮件机器人和网络钓鱼代理，以分析未来的威胁。” 

为了确定哪些弱势服务器的访问者是LLM驱动的代理商，研究人员嵌入及时的注射技术进入蜜罐。这些攻击旨在通过发布新的说明并提出需要人类智能的问题来改变AI代理的行为。这种方法不适用于标准机器人。

例如，其中一项注入的提示要求访客返回命令cat8193，以获得访问权限。如果访问者正确遵守了该说明，则研究人员检查了这样做需要多长时间的时间，假设LLMS能够在不到人类阅读请求所花费的时间少得多的时间内做出响应，通常在1.5秒钟内打开答案。尽管两人确认AI特工通过了这两项测试，但另外六个人只进入了命令，但没有达到响应时间，可以将它们识别为AI代理。

专家仍然不确定何时进行代理攻击会变得更加普遍。斯托克利（Stockley2025恶意软件状态报告，认为我们今年可能会在代理攻击者的世界中生活。 

安全公司趋势趋势微型研究员Vincenzo Ciancaglini说，尽管常规的Agent AI仍处于非常早期的阶段，并且对代理AI的犯罪或恶意使用更是如此，它比两年前的LLM Field更像是一个野外的西部。 

他说：``帕利萨德研究的方法很棒：基本上是侵犯试图首先要黑客的AI特工。”他说。``在这种情况下，我们目睹了试图进行侦察的AI代理商，但我们不确定何时能够自动执行完整的攻击链。这就是我们试图关注的地方。 

虽然在毕业之前，随着代理系统本身变得更加复杂和可靠，恶意药物可能会用于智力收集，并最终进行复杂的攻击，但同样有可能在刑事用法中会发生意外的一夜之间爆炸，他说：这是关于AI开发的奇怪的事情。

亚马逊Web Services首席信息安全官克里斯·贝茨（Chris Betz）说，那些试图防御代理网络攻击的人应该牢记，当前AI比现有攻击技术更迅速地加速了，而不是从根本上改变攻击性质的东西。某些攻击可能更容易进行，因此更多；但是，如何检测和响应这些事件的基础保持不变。

瑞士EthZã¼rich的博士生Edoardo DeBenedetti说，特工也可以部署以检测漏洞并预防入侵者，并指出，如果友好的特工在系统中找不到任何漏洞，那么一个恶意的聚会就可以找到任何类似有能力的特工会找到任何漏洞。

尽管我们知道AI自主进行网络攻击的潜力是一种越来越多的风险，并且AI代理商已经在扫描互联网，但下一步有用的是评估代理商在查找和利用这些真实世界的脆弱性方面的良好性。伊利诺伊大学Urbana-Champaign大学的助理教授丹尼尔·康（Daniel Kang）和他的团队已经建立了一个基准评估这一点；他们发现，目前的AI代理成功利用了他们没有先验知识的漏洞的13％。向代理商提供对脆弱性的简要描述，将成功率提高了25％，即使未经培训，AI系统也能够识别和利用弱点。基本机器人大概会做得更糟。

基准提供了一种评估这些风险的标准化方式，康希望它可以指导更安全的AI系统的开发。他说，我希望人们对AI和网络安全的潜在风险更加积极，然后才有聊天的时刻。”恐怕人们会意识到这一点，直到它打在脸上为止。