作者:By Mason Boycott-Owen
英国政府的恐怖主义立法顾问乔纳森·霍尔(Jonathan Hall)表示,恐怖分子将利用AI,而现行法律可能没有为接下来的情况做好准备。
该报告警告说,已经有一个行业来越狱,技术公司已经实施了越野护栏,以防止聊天机器人创建恐怖分子。|Ritchie B. Tongo/EPA
2025年7月15日 下午3:06
英国政府恐怖主义顾问周二警告说,伦敦人工智能是即将到来的浪潮,它将体验恐怖分子的宣传并帮助他们准备袭击。
政府的恐怖主义立法审查员乔纳森·霍尔(Jonathan Hall)在他的最新年度报告中警告说,在寻找这个问题的一年之后,恐怖主义立法的独立审稿人警告了“边境技术”的威胁。
霍尔警告说,可以根据恐怖分子利用的数据从其可用的数据中学到的东西来创建新内容,例如文本,图像,音频和视频,并说英国历史上对互联网抛弃的威胁的反应太慢了,无法对威胁做出反应。
该报告说,大多数科技公司几乎没有理由解释他们在争夺市场份额时投入人类福利的内在运作。”并警告说,已经有一个行业来越狱,而技术公司已经为此提供了越野,以防止这种恐怖主义者创造恐怖分子。
霍尔警告说,聊天机器人可以为孤独和不愉快的个人提供恐怖激进的封闭式循环,以诱使对现实世界中的恐怖主义诱惑,甚至可以用来筛查潜在的恐怖新兵,然后再经过人类对人类激进的化学。
霍尔的报告指出,英国参与了他唯一看到聊天机器人进行的攻击计划的例子试图暗杀现任女王的cross与他的AI女友一起
霍尔指出,尽管他不知道任何目前的恐怖主义聊天机器人互联网已经暴露了包括儿童在内的易感孤独者的浅色,他们可能只是证明特别容易受到一对一的聊天机器人的激进。”
他说,AI原则上可以提出规避安全的方法,并提供有关使用或适应武器或恐怖分子结构的Tradecraft。
霍尔警告说,AI生成的宣传可以通过当地叙述来量身定制,例如英国自己与美容团伙的战斗。这些工具可以允许机器人军队进入洪水论坛和社交媒体,以使主题显得充满活力和最新。
未来的威胁也可能涉及生成的AI识别和综合生物或化学武器,以及为网络攻击编写代码。
去年,英国政府宣布了新的AI安全研究实验室,旨在协调北约和五个眼睛国家的反应与敌对和恐怖分子国家的反应。