我看到了一个“邪恶”的AI聊天机器人如何发现漏洞。就像你想的那样可怕

在旧金山的Moscone会议中心的顶层，我坐在许多椅子的一排，最已经装满了。这是在RSAC年度网络安全会议上的一天，并且仍在本周初。当主持人登台时，他们的态度非常专业，但充满活力。

我希望技术潜入标准的AI工具，可以使Chatgpt及其竞争对手如何操纵肮脏的行为进行高度关注。LMG Security的创始人兼首席执行官Sherri Davidoff通过揭幕战对软件漏洞和漏洞的启动者加强了这种信念。

但是随后，LMG安全培训与研究主管Matt Durrin删除了一个意外的短语：邪恶的AI。

在我的脑海中提示一个软记录。

``如果黑客可以使用他们的邪恶的人工智能工具，这些工具在我们有机会修复它们之前就没有护栏来寻找漏洞？”杜尔林说。[我们]将向您展示例子。

不仅是屏幕截图，尽管演示文稿继续进行，但其中许多说明了LMG安全团队提出的观点。我也即将看到现场演示，尤其是一个邪恶的AI。

LMG安全 / RSAC会议

Davidoff和Durrin从他们尝试获得Rogue AI的尝试的时间顺序概述开始。这个故事最终揭示了大多数人认为互联网上黑暗，阴暗的角落的正常线索。在某些方面，会议感觉就像是一瞥镜子宇宙。

Durrin首先描述了几次失败的尝试，以获取邪恶的AI。幽灵GPT的创造者在收到该工具的付款后使他们幽灵。与Devilgpt的开发商的对话使Durrin不安足以传递机会。

到目前为止，我们学到了什么？这些黑暗的AI工具中的大多数都以其名称的GPT依靠Chatgpt的品牌实力。

不过，杜林（Durrin）提到的第三种选择是果实。在2023年的布莱恩·克雷布斯（Brian Krebs）文章中听说过有关蠕虫的文章后，该团队回到了电报的频道，以找到它，并以50美元的价格成功地获得了他们的帮助。

杜林说：``如果您正在考虑执行邪恶的事情，这是一个非常非常有用的工具。”[它] chatgpt，但是没有安全导轨。即使它具有破坏性或有害，您也确实可以。

但是，该信息还没有令人不安。证据是AI可以做的。

LMG安全性

杜林（Durrin）和戴维夫（Davidoff）从2024年开始的较旧版本的蠕虫（Wormgpt）开始了他们的经验。他们首先将开源项目管理平台Dotproject扔了源代码。它正确识别了SQL漏洞，甚至建议对IT不起作用的基本利用。事实证明，这种旧形式的蠕虫形式无法利用它发现的弱点，这可能是由于无法摄入完整的源代码。

不好，但不是怪异的。

接下来，LMG安全团队加大了困难log4j漏洞，设置可剥削的服务器。这个版本的蠕虫有点新，发现远程执行漏洞带来了另一个成功。但是，至少对于初学者黑客来说，它的解释还没有解释如何利用。戴维夫说，中级黑客可以使用此水平的信息。

并不是很好，但是知识障碍仍然存在。

LMG安全 / RSAC会议

但是另一个蠕虫的新迭代？它为如何利用漏洞甚至包含示例服务器的IP地址的代码提供了详细的明确说明。这些说明奏效了。

好吧，那是bad？

最后，团队决定将最新版本的蠕虫范围更艰巨。它的更新炸开了许多早期变体的局限性，您现在可以为初学者提供无限量的代码。这次，LMG Security模拟了脆弱的电子商务平台（Magento），查看Wormgpt是否可以找到两部分的利用。 

做到了。但是好人的工具没有。

Sonarqube是一个在代码中寻找缺陷的开源平台，仅抓住了一个潜在的漏洞��;却与该团队正在测试的问题无关。Chatgpt也没有抓住它。

最重要的是，蠕虫可以使如何破解脆弱的Magento服务器，并为每个步骤进行解释，并迅速进行解释，就像我在实时演示中看到的那样。甚至提供了漏洞利用。

正如戴维夫（Davidoff）所说，我有点紧张地看到我们将在六个月内使用Hacker AI工具，因为您可以看到过去一年中现在取得的进展。

LMG安全 / RSAC会议

这里的专家比我更平静。我记得戴维夫在会议开始时说的话：``我们实际上处于[hacker ai]的早期婴儿阶段。

好吧，f ***。

这一刻是我意识到，作为一种专门建造的工具，蠕虫和类似的流氓AI在嗅探和利用代码弱点方面都有局面。另外，他们降低了栏杆的成功黑客。现在，只要您有订阅的钱，您就可以参加游戏。

另一方面，我开始怀疑他们的道德和一般心态如何束缚好人。关于人工智能的一般谈论是关于改善社会和人性的，而不是如何保护人类的最坏情况。正如Davidoff在会议期间指出的那样，应使用AI来帮助兽医代码，以帮助在黑暗AI之前捕获漏洞。

这种情况对我们最终用户来说是一个问题。我们是柔软，柔软的群体。如果我们依靠日常的势力良好的系统，我们仍然（有时从字面上）付款。我们必须处理骗局，信用卡，恶意软件等的混乱之后。

这一切中唯一的一线希望？那些阴影中的人通常不会对那里的其他任何人看上去太努力了。网络安全专家应该能够继续研究和分析这些黑客AI工具，并最终改善自己的方法论。

同时，您和我必须专注于如何在服务，平台或站点遭到损害时最大程度地减少飞溅伤害。现在需要许多不同的技巧Passkeys以及独特的强密码来保护帐户（和密码管理器将它们全部存放）；两因素身份验证;电子邮件面具隐藏我们的真实电子邮件地址；可靠的防病毒软件在我们的PC上；VPN确保在开放或其他不安全网络上的隐私；临时信用卡号（如果您的银行可以使用）；信用冻结;但还有更多。

屁股很痛苦，但不幸的是如此必要。而且，目前，这似乎只会变得更真实。