生成式人工智能预示着一个未来，你不再需要成为一名熟练的作家来起草故事或训练有素的软件工程师来编码。但这种民主化也有阴暗面：人工智能使缺乏技术知识的人成为网络犯罪分子。
我是一名网络安全研究人员，负责监控暗网，即互联网的阴暗区域，人们可以在那里购买非法商品例如枪支、毒品和儿童色情制品。最近，我注意到一个令人担忧的趋势：人们正在销售越来越强大的人工智能驱动的黑客工具，有可能造成巨大的损害。
几乎没有黑客经验的新手现在可以使用人工智能生成的网络钓鱼内容、恶意软件和更多的目标是从个人银行账户到发电厂的一切。更容易获得黑客工具尤其危险，因为越来越多的物理设备和系统（从汽车到牙刷再到电网）连接到互联网并容易受到攻击。Flipper Zero 是一种任何人都可以用来破解交通灯的小型设备，是业余黑客对物理系统构成威胁的早期例子。
人工智能的民主化，包括通过开源平台，有重大好处。当任何人都可以尝试这项技术时，就能促进创业和创新，并防止大型科技公司的垄断。与此同时，开放的人工智能模型可以被引导用于邪恶的目的。
我们可以通过部署先进的人工智能网络安全工具和更新我们的防御策略来反击，以更好地监控暗网上的黑客社区，而不是笼子人工智能。
谷歌、OpenAI 和微软等公司在其产品上设置了护栏，以确保人工智能不会被用于黑客攻击、制作露骨内容、指导武器制造或从事其他非法行为。然而，利用人工智能制作的黑客资源、性深度假货和其他非法内容的激增表明，不良行为者仍在寻找造成伤害的方法。
黑客使用的一种途径是对 ChatGPT 等大型语言模型进行间接查询绕过保障措施。黑客可能会以人工智能无法识别为恶意的方式伪装内容请求，从而导致系统产生网络钓鱼材料或暴力内容。或者，一种称为提示注入的策略可以欺骗大型语言模型，从而泄露其他聊天机器人用户的信息。
黑客还可以使用开源人工智能模型（如 ChatGPT）构建替代聊天机器人，但没有护栏。FraudGPT 和 WormGPT 制作令人信服的网络钓鱼电子邮件并提供有关黑客技术的建议。有些人正在使用偷工减料的大型语言模型来生成儿童色情内容的深度伪造品。这只是开始。我最近评论的一个黑客论坛指出，一类快速增长的大型语言模型明确旨在造成伤害。
创建 FraudGPT 和 WormGPT 等程序需要技术知识。使用它们不会。业余黑客，称为脚本小子，无需任何技术技能即可执行黑客脚本。我最近使用了 WhiteRabbitNeo，这是一种网络安全工具，也可以充当 WormGPT 和 FraudGPT 的替代品，帮助我使 Windows 11 计算机崩溃。它不仅在生成脚本方面做得非常好，还为我提供了如何部署脚本的说明。
如果我们希望人们能够适应和尝试生成式人工智能，他们将不可避免地用它来做好事和做坏事。我们应该继续探索惩罚人工智能滥用的法规。但对开源人工智能模型施加限制将限制创造性和有益的用途，而不关心知识产权和护栏的黑客将继续寻找解决方法。
我们最好的武器是以牙还牙。使用人工智能作为防御性网络安全工具。网络安全长期以来一直是一场打地鼠游戏：新的威胁出现，人类更新软件以应对威胁，另一个威胁出现，等等。我们经常依赖白帽黑客一一探测漏洞，而不是系统地方法来发现缺陷。
人工智能可以帮助我们不断学习并更加敏捷地应对威胁。其最大的优势之一是模式识别，可用于自动监控网络并更轻松地识别潜在的有害活动。人工智能可以在数据库中编译新出现的威胁，并生成尝试攻击的摘要。
我们已经看到了人工智能驱动的网络安全浪潮。CloudFlare 正在使用人工智能来跟踪其他人工智能并阻止机器人抓取内容。Mandiant 正在使用人工智能来调查网络安全事件。IBM 部署 AI 来加速威胁检测和缓解。
随着公司构建 AI 安全工具，我们应该继续监控暗网和黑客社区，以密切关注最新的恶意软件并创建主动修复。针对脚本小子的资源的好处之一是，它们在业余爱好者可见的地方提供，通常研究人员也可以看到。其中许多社区以英语以外的语言运作。为了确保人工智能网络安全能够适应全球威胁，我们必须加大对多语言大语言模型的投资。目前，过多的资源用于开发英语语言模型。
今年早些时候的 CloudStrike 中断提醒我们全球网络基础设施的脆弱性。一家善意公司的一次错误更新就足以造成数十亿美元的损失、导致航空旅行停止、911 紧急服务崩溃。现在想象一下，人工智能黑客工具掌握在世界各地想要造成伤害的任何人手中，在互联网连接产品和系统的时代，我们现在拥有的更多东西都包含芯片。
我们不应该围墙无法使用生成式人工智能及其所能完成的所有令人难以置信的事情。但我们必须战略性地使用人工智能，以领先一步应对它不可避免带来的威胁。
维克多·本杰明 (Victor Benjamin) 是华盛顿州立大学信息系统助理教授。亚利桑那州立大学凯里商学院。
版权所有 2024 Nexstar Media Inc. 保留所有权利。该材料不得出版、广播、重写或重新分发。