诈骗者使用声音克隆AI骗取男子2.5万美元

洛杉矶 --一名男子被骗走了25000美元，骗子利用人工智能技术复制了他的儿子的声音，并骗他转账。

“我觉得自己像个傻瓜，但我不在乎，”安东尼说，他不想透露自己的姓氏。“我想尽我所能帮助每一个人。”

这一切开始于他接到一个他认为是儿子打来的电话。

安东尼认为他的儿子出了事故，撞到了一个怀孕的女人，那个女人被送往了医院。

简短交谈后他挂断了电话。接着又有一个名叫迈克尔·罗伯茨的人打来电话，自称是律师。他对安东尼说，需要9200美元才能保释他的儿子。

“他说‘如果你想让你儿子出来，你得尽快凑到9200美元。否则他就要待上45天，’”安东尼回忆道。

安东尼说他试图回打电话给他的儿子核实发生了什么，但电话被转到了语音信箱。他以为那是因为他的确在监狱里。

安东尼去了银行取钱。为了避免引起怀疑，他告诉银行这笔钱是为了安装太阳能板，银行批准了他的请求。

当安东尼回到家时，他让女儿打电话给迈克尔·罗伯茨。

她说：“我们有钱了。我们现在该怎么办？” 安东尼说道。“他说‘别担心，会有人来接应的。那将是一辆优步车，随时都会到。’果然不久之后就有一辆优步车来了。”

监控视频显示他的女儿将钱取出来放在一个 Manila 文件夹里。他们检查了车牌和司机，确认他是一个合法的优步司机。安东尼的女儿把钱交给司机后，司机离开了。然后，电话再次响起。

这次打电话的人自称为马克·科恩——本案中另一名律师。打电话的人说那个怀孕的妇女死了。

参见：AI 深假视频、选举误导信息、虚假募捐活动及其他 2024 年选举骗局增多

"保释金已经提高了。马克·科恩说又增加了15800到25000美元，"安东尼说道。

他们把一切再重复一遍——从银行取出更多的钱交给另一位接第二包的优步司机。

安东尼说，在情况平静下来之后，他们在互联网上进行了搜索和研究。随后他的女儿告诉他一个坏消息。

“爸爸，我希望我说错了。我认为你刚刚被骗走了25,000美元。”直到她说出这些话，我从来没有这样想过，安东尼回忆道。

老骗术的新花样

警方表示这种诈骗手法并不新鲜。多年来一直存在多种形式的此类诈骗，但他们说新技术可以让来电和通知看起来更加真实。

“骗子们变得越来越聪明和狡猾，”洛杉矶警察局侦探切莉莎·赛格尔说道。“他们利用社交媒体和技术编织出非常可信的故事，人们真的相信自己在与孙辈或政府官员通话。”

在这个情况下，安东尼说当他第一次接电话时，声音听起来和他的儿子一模一样。

“是他的声音。绝对是他的声音。”他说。“毫无疑问。”

警方表示这是一个新的情况。人工智能（AI）可以用来模仿某人的声音，听起来非常真实。

他们打电话，当你接听后发现是骗子时，就会沉默，“他们希望你回应‘喂’或‘有人在吗？’，他们只需要三秒钟的声音就可以输入AI并克隆它。”

小偷也可以利用社交媒体账户获取关于某人的信息。

“他们会查看你的视频帖子，如果你或你亲近的人在说话，他们可以通过这种方式获取你的声音，”Saeger说。

侦探们不想透露太多关于这次正在进行的调查的信息，但他们表示，在这类案件中，通过优步或来福车雇佣的司机通常并不参与这种诈骗。他们甚至不知道自己是这件事的一部分。

在这种情况下，安东尼说打电话的人一直让他感到有一种紧迫感。他们试图让他方寸大乱。

“他们把我转移得那么快，”安东尼说。“我根本没有机会做第二次通话，除非我对他们说‘停下。我要暂停这一切一分钟。我想和我的儿子说话。不管他在哪里或者他是不是在监狱里，我都想和我的儿子说话。’你不会这么想的。你不会。”

警方表示永远不要向不认识的人汇款，即使他们声称自己是政府部门或金融机构。那些机构绝不会打电话要求你立即汇款。

最近，他们要求受害者将钱存入加密货币自动取款机或转账到加密货币账户，Saeger说道。“所以如果你接到电话，他们要求你做这些事情，这是一个立即的警示信号，这很可能是一个诈骗。”

安东尼说他感到尴尬，但他希望通过分享他的故事帮助别人。

那是我要对所有观看的人说的——保护自己和自己的家人，他说。“那就是我为什么要做这件事的原因。”