华盛顿（美联社）——当世界其他国家争先恐后地利用人工智能，激进组织也在尝试这项技术，尽管他们不确定如何使用它。

对于极端组织来说，人工智能可能是一个强大的工具国家安全专家和间谍机构警告说，他们招募新成员、制作逼真的深度伪造图像并改进网络攻击。

上个月，有人在亲伊斯兰国组织的网站上发帖，敦促其他伊斯兰国支持者将人工智能纳入其行动的一部分。“人工智能最好的事情之一就是它非常容易使用，”该用户用英文写道。

“一些情报机构担心人工智能会有助于招募人员，”该用户继续说道。“所以让他们的噩梦变成现实吧。”

伊斯兰国多年前占领了伊拉克和叙利亚领土，但现在已成为一个激进团体的权力下放联盟国家安全专家表示，这些拥有暴力意识形态的组织多年前就意识到社交媒体可能成为招募和传播虚假信息的有力工具，因此该组织正在测试人工智能也就不足为奇了。

对于组织松散、资源匮乏的极端主义团体，甚至是拥有网络连接的个人不良行为者来说，人工智能可以用来进行宣传或大规模深度伪造，扩大影响力，扩大影响力。

“对于任何对手来说，人工智能确实让做事变得更加容易，”国家安全局前漏洞研究员、现任网络安全公司 ClearVector 首席执行官约翰·拉利伯特 (John Laliberte) 说。– 借助人工智能，即使是一个没有很多钱的小团体仍然能够产生影响。”

极端组织如何进行实验

一旦 ChatGPT 等程序变得广泛可用，激进组织就开始使用人工智能。从那以后的几年里，他们越来越多地使用生成式人工智能程序来创建逼真的照片和视频。

当绑定到社交媒体算法时，这些虚假内容可以帮助招募新信徒、迷惑或恐吓敌人，并以几年前难以想象的规模传播宣传。

这些组织散布两年前以色列与哈马斯战争的虚假图片描绘血淋淋的被遗弃的婴儿在被炸毁的建筑物里。这些图像激起了愤怒和两极分化，同时掩盖了战争的真实恐怖。中东的暴力团体利用这些照片招募新成员，美国和其他地方的反犹太仇恨团体也是如此。

去年发生过类似的事情IS附属机构声称对此次袭击负责俄罗斯一音乐会场造成近 140 人死亡。枪击事件发生后的几天里，人工智能制作的宣传视频在讨论区和社交媒体上广泛传播，寻找新成员。

SITE Intelligence Group 的研究人员表示，IS 还制作了其领导人背诵经文的深度伪造录音，并使用人工智能将信息快速翻译成多种语言。SITE Intelligence Group 是一家追踪极端主义活动并调查 IS 不断发展的人工智能使用的公司。

☀️目前有抱负

前中央情报局特工、现任与联邦政府合作的网络安全公司 Darktrace Federal 首席执行官的马库斯·福勒 (Marcus Fowler) 表示，这些组织落后于中国、俄罗斯或伊朗，但仍然认为更复杂的人工智能应用是“有抱负的”。

但他表示，风险太高，不容忽视，而且随着廉价、强大的人工智能的使用范围扩大，风险可能会增加。

黑客是已经使用合成音频和视频进行网络钓鱼活动，他们试图冒充高级企业或政府领导人来访问敏感网络。他们还可以使用人工智能编写恶意代码或自动化网络攻击的某些方面。

更令人担忧的是，武装组织可能会尝试利用人工智能来帮助生产生物或化学武器，以弥补技术专业知识的缺乏。该风险已包含在国土安全部更新的国土威胁评估中，今年早些时候发布。

“ISIS 很早就登陆了 Twitter，并找到了利用社交媒体为自己谋利的方法，”福勒说。“他们总是在寻找下一个可以添加到他们的武器库中的东西。”

应对日益增长的威胁

立法者提出了几项提案，表示迫切需要采取行动。

例如，参议院情报委员会民主党领袖、弗吉尼亚州参议员马克·沃纳表示，美国必须让人工智能开发者更容易分享有关坏人如何使用其产品的信息，无论他们是极端分子、犯罪黑客还是外国间谍。

“自 2022 年底 ChatGPT 公开发布以来，很明显，公众对生成式 AI 的同样迷恋和实验也适用于一系列恶意行为者，”Warner 说。

在最近关于极端主义威胁的听证会上，众议院议员了解到伊斯兰国和基地组织举办了培训研讨会，帮助支持者学习使用人工智能。

美国众议院上个月通过的立法将要求国土安全官员每年评估此类组织带来的人工智能风险。

该法案的发起人、德克萨斯州共和党众议员 August Pfluger 表示，防范人工智能的恶意使用与准备应对更传统的攻击没有什么不同。

“我们的政策和能力必须跟上明天的威胁，”他说。