犯罪AI在这里 - 任何人都可以订阅

本文包括对暴力性侵犯的参考。

一份复杂的新报告人工智能平台4月开始在网络安全博客上浮出水面，描述了一个定制系统在黑暗网络黑客论坛上低语，并为犯罪的唯一目的而创建。但是，尽管有阴影的出处和邪恶的名字，Xanthorox并不是如此神秘。The developer of the AI has a GitHub page, as well as a public YouTube channel with screen recordings of its interface and the description “This Channel Is Created Just for Fun Content Ntg else.” There’s also a Gmail address for Xanthorox, a Telegram channel that chronicles the platform’s development and a Discord server where people can pay to access it with cryptocurrencies.与黑暗网络犯罪论坛的黑暗犯罪犯罪论坛没有任何阴暗的启动只需要向一个孤独的企业家提供信息，该企业家为潜在的犯罪分子提供服务比许多在Instagram上的在网上商店更透明的犯罪分子。

这不是说平台不是邪恶的。Xanthorox通过冒充您认识的人，发送电子邮件来窃取您的登录凭据，恶意软件代码以闯入您的计算机并lansomware以将其锁定为直到您在数十亿美元的千万美元企业中支付通用工具，以窃取您的登录凭据，以窃取您的登录凭据，以窃取您的登录凭据，以窃取您的登录凭据，以窃取您的登录凭据，以窃取您的登录凭据，以窃取您的登录凭据，从而欺骗您，以欺骗您。在其YouTube频道上的一个屏幕录制会更糟。黑色背景上的白色文字让人联想到Chatgpt的界面，直到您看到请求中的用户打孔 - 逐步指南在我的地下室制作nuke。

支持科学新闻

如果您喜欢这篇文章，请考虑支持我们屡获殊荣的新闻业订阅。通过购买订阅，您可以帮助确保有关当今世界的发现和想法有影响力的故事的未来。

但是，这种知识远非秘密。大学教科书，互联网搜索和教育AIS已将其授予，而没有地下室核武器成为家庭手工业；绝大多数人，更不用说许多国家，显然无法获得这些组成部分。至于骗子工具，它们自当前AI模型出现之前就一直在使用。相反，屏幕录制是一种广告特技，它像网络安全博客中对其的许多警报描述一样，增强了平台的神秘感。尽管还没有人证明Xanthorox预示着新一代的犯罪AI，但它及其未知的创作者提出了关于哪些主张是炒作的关键问题，哪些人应该引起严重的关注。

刑事AI的简短历史

越狱的默认软件限制在2007年发行了第一台iPhone。App Store尚未存在，想要玩游戏，添加铃声或Switch Carriers的黑客不得不设计越狱。当Openai推出了最初版本的Chatgpt，该版本由2022年底的大型语言型号GPT-3.5提供支持时，越狱开始，用户欢呼雀跃将聊天机器人推到了其护栏上。一个普通的越狱涉及欺骗chatgpt，要求它作为没有规则并被允许写网络钓鱼电子邮件的另一种AI扮演。然后，chatgpt会回答说，确实可以编写这样的材料本身，但是可以执行角色扮演。然后，它假装是一个邪恶的AI，并开始发出网络钓鱼电子邮件。为了使这更容易，黑客在官方AI模型及其用户之间引入了包装器。人们不必直接通过其主界面访问AI，而是可以简单地浏览易于使用的包装器。当他们输入虚假新闻报道或洗钱技巧的请求时，包装纸以欺骗Chatgpt做出回应的语言重新包装了他们的提示。

随着AI护栏的改善，Crooks在提示方面的成功较小，他们开始下载一种名为GPT-J-6B（通常称为GPT-J）的开源模型，该模型不是由OpenAI制作的。该系统的使用许可在很大程度上是不受限制的，对于想要使用GPT-J的人来说，主要的挑战是提供具有足够处理能力的计算机系统来运行它。2023年6月，在培训了广泛的恶意软件代码，网络钓鱼模板和折衷的业务电子邮件之后，一位用户发布了蠕虫，他们将其描述为自定义聊天机器人，并通过Telegram向公众提供。任何想设计恶意代码，欺骗网站和轰炸机收件箱的人都必须支付70美元至5,600美元的费用，具体取决于访问的版本和级别。两个月后，网络安全记者布莱恩·克雷布斯（Brian Krebs）透露了创作者的身份，当时是23岁的葡萄牙人拉斐尔·莫拉伊斯（Rafael Morais）。莫拉伊斯（Morais）引用了更多的关注，擦拭了频道，除了他们已经从骗局中吸引的东西外，顾客什么也没有。随之而来的是欺诈，Darkbert和Darkbard，生成了恶意软件，勒索软件，个性化的骗局电子邮件以及梳理脚本的自动化程序，这些程序依次测试了在线支付网关上的信用卡和借记卡中偷来的详细信息。这些AIS的屏幕截图像​​将来一样在互联网上传播到互联网上，这些屏幕截图涉及仍然认为网络攻击需要技巧的每个人。这种AIS的存在降低了进入网络犯罪的酒吧，”网络安全公司Check Point威胁情报小组经理Sergey Shykevich说。您现在不需要成为专业人士。

至于制作机器人的犯罪分子，这些情节教给他们两个课程：包装AI系统便宜又简单，而且名字却出售。网络安全公司Sophos的总监兼全球现场信息安全官切斯特·威斯尼夫斯基（Chester Wisniewski）说，骗子经常欺骗其他潜在的骗子，以script子女的身份为目标，可追溯到1990年代，适用于1990年代，适用于那些使用预编写的脚本来创建cyberatting而不理解编码的人。这些潜在目标中的许多人都存在于几乎没有经济机会的国家，即使是一些成功的骗局也可以大大改善其未来。Wisniewski说，很多人都是青少年，很多人只是想为家人养家。”他们只是运行一个剧本，希望自己能砍掉东西。

犯罪AI的真正威胁

Though security experts have expressed concerns along the lines of AI teaching terrorists to make fertilizer bombs (like the one Timothy McVeigh used in his 1995 terrorist attack in Oklahoma City) or to engineer smallpox strains in a lab and unleash them upon the world, the most common threat posed by AIs is the scaling up of already-common scams, such as phishing e-mails and ransomware.AI产品和研究领导者Kela的负责人Yael Kishon说，犯罪行动正在使网络犯罪分子的生活变得更加容易，允许他们轻松地发起恶意代码和网络钓鱼活动。Wisniewski同意，说，犯罪分子现在可以在一个小时内产生数千个攻击，以至于一小时需要他们的时间。危险更多在于扩大了已知的网络犯罪形式的数量和范围，而不是在新的攻击中发展。他说，在许多情况下，AI只是拓宽了箭头的头。它没有尖锐的尖端。

然而，除了降低成为犯罪分子并允许犯罪分子瞄准更多人的障碍之外，现在似乎确实有些尖锐。AI已经足够先进，可以收集有关一个人的信息并给他们打电话，从其天然气或电动公司中冒充代表，并说服他们迅速付款。即使是Deepfakes也达到了新的水平。香港警方在2月表示，一家跨国公司的一名工作人员后来透露为英国工程集团阿鲁普（Arup），他收到了一条声称来自该公司首席财务官的信息。然后，工作人员与CFO和其他员工一起参加了一次视频会议，所有AI生成的深烟像人类一样与他互动，解释了为什么他需要将2500万美元转移到香港的银行帐户中。

即使是网络钓鱼运动，批量发送的骗局也已转移到了矛网络钓鱼，这种方法试图通过使用个人详细信息来赢得人们的信任。AI可以轻松地收集数百万个人的信息，并向每个电子邮件制作个性化电子邮件，这意味着我们的垃圾邮件盒子将少于声称自己是尼日利亚王子的人们的信息更少，而更多的人来自前同事，大学室友或旧火焰的模仿，所有这些都寻求紧急财务帮助。

Wisniewski说，AI真正擅长的领域是其对语言的使用。尽管有针对性的人经常在西班牙或葡萄牙语中发现尝试骗局，因为骗子使用错误的方言写给葡萄牙与巴西葡萄牙人或阿根廷的某人，在墨西哥更典型的西班牙语中，AI可以轻松地将其内容适应其目标和区域参考。当然，还有许多其他应用程序，例如制作数百个假网站店面来窃取人们的信用卡信息或产生大规模的虚假信息，以操纵公众意见，这在概念上没有什么新鲜事物，只有在可以部署的大规模上。

Xanthorox：营销还是威胁？

Xanthorox的声音听起来像是一部自出版的幻想小说中的怪物（Xantho the是一个古希腊语的黄色词，Rox是对岩石的常见渲染，并且是整体上模糊地唤起人类的名字）。但是，除了其创作者的主张和他分享的屏幕录音外，它的工作原理没有数据。尽管一些网络安全博客将Xanthorox描述为犯罪的第一个AI，但没有人接受本文的采访可以证实这一主张。在Xanthorox Telegram频道上，创建者承认在使用两个流行的AI系统的版本时挣扎了硬件约束：Claude（由旧金山的公司人类人类人类人类（Claude）创建）和DeepSeek（中国模型由Hedge Fund Fund High-Flyer拥有）。

基尚（Kishon）预测，黑暗的AI工具将在未来几年中增加网络威胁，但并不认为Xanthorox是改变游戏规则的人。她说，我们不确定这个工具是否非常活跃，因为我们在其他网络犯罪论坛上都没有看到任何网络犯罪聊天。”她的话提醒人们，群众仍然没有巨大的邪恶聊天机器人工厂。威胁是在下一个新闻周期之前可以将新型号的易于包装，错位和发货的便利性。

然而，众包网络安全平台Bugcrowd的创始人Casey Ellis对Xanthorox的看法有所不同。尽管他承认许多细节尚不清楚，但他指出，较早的刑事AI没有旨在审查和验证彼此检查的决定的高级专家级系统。但是黄质似乎。埃利斯说，如果它继续以这种方式发展，那么它可以发展成为一个相当强大的平台。关于Xanthorox的第一个博客，相信平台比蠕虫和欺诈更有效。他说：'他的现代AI聊天机器人功能将其区分为更复杂的威胁。”他说。

3月，Xanthorox的匿名创作者在平台的电报频道中发布了他的作品是出于教育目的。但是不久之后，他开始吹嘘宣传，每月出售200美元的访问权限，并发布加密付款的屏幕截图。在写作时，他至少售出了13份订阅，将价格提高到300美元，刚刚推出了一家抛光的在线商店，引用了Kelley的Slashnext博客文章，例如产品认可，并说，我们的目标是提供一个安全，有能力和私人的AI。

Xanthorox的最恐怖的部分也许是创作者的chat不休，他的600多个追随者在一个电报频道上，上面有种族主义者和厌女症。在某一时刻，为了表明他的人工智能是多么犯罪，创作者要求它为如何用铁杆强奸某人并杀死他们的家人的指示，这似乎是在2012年在印度德里的一名22岁妇女的强奸和谋杀案的提示。克雷布斯（Krebs网络犯罪黑客相当于暴力街头帮派在他的调查新闻博客Krebsonsecurity上。

在刑事AI时代保持安全

毫不奇怪的是，为公司进行了许多保护犯罪AI的工作，例如检测深击和欺诈性电子邮件。埃利斯（Ellis）认为，正如垃圾邮件检测器已内置在我们当前的系统中一样，我们最终将拥有AI工具来检测AI开发，深层效果，其他任何东西并在浏览器中发出警告。家庭用户已经存在一些工具。Microsoft Defender阻止了恶意网址。Malwarebytes浏览器护板过滤网络钓鱼页面，而BitDefender则滚动勒索软件加密。诺顿360扫描了黑暗的网络以获取被盗的凭据，现实防御者旗帜ai生成的声音或面孔。

Shykevich说，最好的事情是尝试与AI与人工智能作战。但是，对于那些无法获得最先进的防御能力的人来说，他强调教育和意识，尤其是对于通常是主要目标的老年人而言。他们应该理解：如果有人用儿子的声音打电话，并立即要求钱来帮助他们，因为发生了什么事，那可能不是他们的儿子。”

可以为大规模和个性化犯罪重新使用的许多AI系统的存在意味着我们生活在一个世界上，我们都应该看传入的电子邮件，就像城市人民看门把手的方式一样。当我们从声音听起来像人的声音并要求我们付款或共享个人信息时，我们应该质疑其真实性。但是，在一个越来越多的互动是虚拟互动的社会中，我们可能最终只能信任面对面的遭遇至少在看起来像人类的机器人的到来之前。