利用AI模仿儿童声音进行诈骗以盗取数百万钱财

2024-10-12 22:35:28 英文原文

作者:Anna Mikhailova

发布: | 更新:

欺诈者正在使用人工智能模仿儿童的声音,在针对家长的新电话诈骗中使用假的求救声。

部长们现在警告家庭要开发秘密的“暗语”或短语,在遇到困境时使用,以免被这些电话骗了而损失钱财。

居家办公消息来源称,仅仅来自视频的三秒钟语音片段就够了 TikTok, Instagram或者从其他社交媒体网站上获取的信息就足够生成某人的声音克隆了。

这种AI诈骗是近年来在英国用来从不知情的父母那里窃取数百万英镑的“嗨妈妈”骗局的最新变种。

在这次诈骗中,家长通常会收到一条来自冒充他们孩子的WhatsApp消息,称手机丢失了,并急需钱款以支付回家的出租车费用。

妈妈网论坛创始人朱斯汀·罗伯茨(如图所示)说:“那些假装是需要帮助的孩子来欺骗父母感情的诈骗行为,例如‘你好妈妈’骗局,专门针对家长的情感。”

在接受《星期日邮报》采访时,欺诈事务大臣汉森勋爵敦促家长们同意一个“安全暗语”,孩子们可以在任何情况下使用(股票照片)

现在,得益于人工智能技术,骗子——通常在国外活动——正在留下录音消息或进行电话通话,这些通话完美地复制了某人的孩子的声音。这意味着父母可能会接到一个电话,在电话中听到他们的孩子告诉他们自己身处危险之中,并且急需钱——而通过使用AI,骗子可以与家长进行双向聊天。

他们的“求救信息”可能包括银行卡和手机被“偷走”,因此他们与一个朋友在一起,如果钱立即转移到第三方账户,这位朋友可以帮忙取款。

或者他们需要紧急支付房租,或者偿还他们与之发生麻烦并因此受到威胁的人的钱。

在接受《星期日电讯报》采访时,欺诈事务大臣汉森勋爵敦促家长们同意一个“安全暗语”,孩子们在打电话寻求帮助时可以使用这个暗语,这样家长就能知道信息是真实的。他说:“人工智能为我们的社会带来了巨大的机遇,但我们也要时刻警惕其中的危险。”

我们很荣幸通过“停止!防范欺诈”活动支持这一倡议,并确保公众获得如何防范此类诈骗的实际建议。

接近内政大臣耶维特·科OPER的一位消息人士补充说:“试想一下,当这项技术使得骗子能够盗取他们假装的人的脸和声音,并与他们的目标受害者进行视频通话时所存在的风险。

显然政府控制这一威胁面临着挑战,但这也表明了家庭为什么也需要像“安全暗语”这样的东西来自我保护。

截至3月的一年内,英格兰和威尔士犯罪调查收到了320万起家庭报告的欺诈事件。

骗子经常会假冒银行的电话号码来获取受害者的信任,然后说服他们账户遭受了欺诈活动(示意图)

据居家办公的消息来源称,只需来自TikTok、Instagram或其他社交媒体网站视频中三秒钟的讲话录音,就能生成某人的声音克隆。

在同一时期,英国金融协会(代表英国银行的伞式组织)表示,其成员报告了554,293起金融欺诈案件,包括“嗨妈妈”骗局,比前一年的460,537起增加了20%。

Mumsnet论坛创始人Justine Roberts表示:“假冒母亲的诈骗手段,即骗子冒充需要帮助的孩子,旨在利用父母的情感。如果认为您的孩子遇到麻烦,想要迅速采取行动是很自然的反应,许多通常自认对骗局很警惕的家长也被那些看似来自自己孩子的令人焦虑的信息所蒙蔽。”

利用人工智能技术模仿声音将使得识别骗子变得更加困难。

妈妈网上的家长们建议在这种情况下约定一个暗语或问题,因此很高兴看到政府在推广这一措施。

花时间坐下来与孩子们讨论在紧急情况下如何处理,可以减少措手不及的可能性,而有一个约定好的暗语是保护自己和家人的一种简单方式。

一位英国财政部发言人表示:“人工智能已经开始改变诈骗者对受害者实施诈骗的方式,以及这些诈骗手段的可信度。

政府的新欺诈策略将把人工智能驱动的诈骗威胁置于核心位置。我们必须提前应对这些风险,否则将会有更多的无辜人成为骗子的受害者。

关于《利用AI模仿儿童声音进行诈骗以盗取数百万钱财》
暂无评论

摘要

发布日期:英国夏令时间 10月12日 23:35 | 更新日期:英国夏令时间 10月12日 23:44 诈骗者正在使用AI技术模仿儿童的声音,以针对家长的新电话现金骗局为目标。Mumsnet网络论坛创始人朱斯汀·罗伯茨表示:“假称是孩子的求助的‘嗨,妈妈’骗局,旨在利用父母的情感。” 在接受《星期日电讯报》采访时,欺诈事务部长汉森勋爵敦促家长们约定一个“安全短语”,孩子们可以在任何情况下使用(库存照片)。如今,由于AI技术的帮助,诈骗者——通常在国外活动——正在留下录音消息或进行电话通话,这些通话完美地复制了某人的孩子的声音。Think Fraud活动旨在确保公众获得有关如何防范此类骗局的实际建议。“与内政大臣伊薇特·库珀关系密切的消息人士补充说:‘想象一下当这种技术能够让诈骗者窃取他们所冒充的人的面孔和声音,并与其目标受害者进行视频通话时的风险。’在截至三月的一年里,英格兰和威尔士的家庭向犯罪调查报告了320万起欺诈事件。