家长警告：使用孩子的声音复制品进行令人不安的绑架方案

电话诈骗已经存在了一段时间，但最近人工智能技术的进步使得不法分子更容易让人们对他们绑架了自己亲人的说法信以为真。

骗子正在使用AI技术来复制人们的亲属声音虚假绑架骗局说服受害者向骗子转账以换取他们亲人的安全。

该计划最近针对了一所华盛顿州学区的两名受害者。

华盛顿州伯尔ien的Highline公立学校于9月25日发出通知，告知社区成员有两人遭到“骗子虚假声称绑架了他们的亲属”的诈骗行为。

“诈骗者播放了[由AI生成的]家庭成员的声音录音，然后索要赎金，”学区写道。“联邦调查局（FBI）注意到此类骗局在全国范围内增多，特别针对说英语以外语言的家庭。”

六月，亚利桑那州的母亲詹妮弗·德斯蒂法诺在美国国会作证，讲述如何骗子利用人工智能让她相信女儿被绑架了在一场价值100万美元的敲诈阴谋中。她从解释自己为何在一个周五下午接听了一个未知号码的来电开始说起。

“我接电话时说了一声‘喂。’另一端是我们的女儿布里安娜在哭泣，她说的是‘妈妈，’”德斯泰弗诺在其国会对法案的证词中写道。“一开始我没有在意……我在停车场一边走着去见她的妹妹一边用免提模式和她通话，随便问了她发生了什么。布里安娜继续说道，‘妈妈，我搞砸了，’伴随着更多的哭泣。”

当时，DeStefano根本不知道有一个恶意行为者有使用人工智能复制了女儿的声音在另一条线路上。

然后她听到电话那端有一个男人的声音在对她女儿大声喊叫，而布里安娜——至少她的声音——继续尖叫说坏人“带走了”她。

“一个威胁性和粗俗的人接过了电话。‘听着，我有你的女儿，你敢告诉任何人，敢报警，我会把她灌满药，然后我会任意凌辱她，把她丢到墨西哥，你就再也见不到她了！’与此同时，布里安娜在背景中拼命哀求：‘妈妈，救救我！’”德斯特凡诺写道。

这些人要求支付一百万美元赎金以保证布里安娜的安全，而德斯蒂法诺试图联系朋友、家人和警方来帮助她找到女儿。当德斯蒂法诺告诉骗子们她没有一百万美元时，他们要求支付五万美元现金，并且要亲自领取。

在这段时间的谈判过程中，德斯特凡诺的丈夫找到了布里安娜，她安全地躺在床上家中，对自己声音被用于诈骗一事一无所知。

“她怎么可能会既安全地待在父亲身边，又同时被绑架者控制着？这完全说不通。我必须和布里谈谈。”德斯特凡诺写道。“直到听到她的声音亲口告诉我她很安全，我才敢相信这一点。我一遍遍地问她，真的是你吗？你真的安全了吗？这是真的布里吗？你确定自己真的很安全吗！？我的脑子乱成一团。我不记得自己需要多少次确认了，但当我最终确信她安全无虞时，我简直气炸了。”

德斯塔法诺在作证结束时指出，人工智能使得人类更难以相信自己的眼睛和耳朵——尤其是在虚拟环境中或通过电话。

恶意行为者已经针对美国和世界各地的受害者展开行动。他们能够通过两种主要手段复制一个人的声音：首先，如果某人回应了骗子的未知来电，那么这些骗子可以收集该人的声音数据，并利用人工智能技术操纵同样的声音来说出完整的句子；其次，通过从社交媒体上发布的公共视频中收集某人的声音数据。

这是Cyble公司首席执行官兼主席Beenu Arora的说法，Cyble是一家使用人工智能驱动解决方案来阻止恶意行为者的网络安全公司。

“所以你基本上是在和他们对话，假设有人试图进行交谈，或者……比如一个电话销售呼叫。目的是通过你的声音获取正确的数据，然后他们可以通过其他人工智能模型进一步模仿这些数据，”阿罗拉解释道。“而现在这种情况变得越来越普遍了。”

他补充说，在社交媒体上“从视频中提取音频”“并不难。”

“你说得越久，他们收集的数据就越多，”阿罗拉说道，“而且你的语气变化、俚语以及说话方式也会减少。但是……当你接到这些空号或垃圾电话时，我实际上建议你不要说太多。”

美国国立卫生研究院（NIH）建议犯罪受害者警惕来自陌生区号或非受害人电话号码的勒索电话。这些不良分子还会“不遗余力”地让受害者一直保持通话状态，以防止他们有机会联系当局。他们还经常要求通过电汇服务支付赎金。

该机构还建议遭到此犯罪行为针对的人尽量放缓情况，要求直接与受害人通话，要求描述受害人的特征，仔细聆听受害人的声音，并尝试通过电话、短信或直接消息独立联系受害人。

美国国立卫生研究院（NIH）发布了一则公共服务公告，称多名NIH员工成为了此类诈骗的受害者，这种骗局“通常从一个电话开始，说你的家人被绑架了。”此前，骗子会声称受害者的亲属被绑架，有时在电话或视频信息的背景中会有呼救声。

然而，近年来由于人工智能的进步，骗子可以利用社交媒体上的视频复制亲人声音，使绑架情节看起来更加真实。换句话说，不法分子可以使用人工智能技术，通过网上公开的视频来模仿亲人的声音，让受害者相信他们的家人或朋友已经被绑架。

打电话的人通常会向受害者提供如何汇款以换取亲人安全归来的信息，但专家建议此类犯罪的受害者在惊慌时刻停下来思考对方所说的内容是否真实。

“我的谦逊建议是，当你收到这种令人担忧的信息时，或者有人试图催促你或让你感到有紧迫感去做某事，最好停下来思考一下再行动，”阿罗拉说。“我认为作为一个社会，区分真实和虚假将会变得更加困难，因为我们看到的技术进步。”

阿罗拉补充说，虽然有一些以人工智能为中心的工具被用来主动识别和打击人工智能诈骗，但由于这项迅速发展的技术的速度非常快，对于那些致力于防止不良分子利用不知情受害者的人来说，前方的道路还很长。任何认为自己成为此类诈骗受害者的人都应该联系当地的警察局。