佛州警察成为复杂的AI“车祸”骗局的目标——差点骗了他的父亲支付3.5万美元

一位律师就一起复杂的AI声音克隆诈骗案发出警告，这起案件骗了他的父亲几乎交出了35,000美元。

骗子假冒了34岁的Jay Shooster打电话给他的父亲Frank，70岁，骗他说儿子发生严重车祸，被逮捕了需要保释金。

惊恐的弗兰克，一位退休律师，说他确信那是他“歇斯底里的”儿子，并且这次诈骗使他深受创伤。

杰伊正在竞选佛罗里达州众议院第91选区的席位，有人认为骗子利用他15秒电视竞选广告的声音制作了一个假声音。

弗兰克来自佛罗里达州博卡拉顿，当时他正在纽约看望女儿，他说：“就在优步车来接我去纽约市的时候，我接到了一个电话。”

“那是我的儿子杰伊。他当时歇斯底里了，但我立刻就听出了他的声音。”

他说他出了车祸，鼻骨骨折，缝了十六针，并且因为酒后吹气测试呈阳性被警方拘留。

“他把这件事归咎于之前喝的止咳糖浆。”

冒充者的杰伊在9月28日恳求弗兰克不要把情况告诉任何人。

几分钟后，一个自称是“迈克·里弗斯”的所谓律师打来电话说杰伊需要缴纳3.5万美元的现金保释金才能避免被拘留几天。

当“河流”指示弗兰克通过加密货币机器支付保释金时，骗局升级了——这是一个非同寻常的要求，加剧了弗兰克的疑虑。

“当他让我去温迪迪克斯的Coinbase机器时，我开始感到怀疑。”弗兰克说。“我不明白那如何是法律程序的一部分。”

弗兰克最终意识到出了问题，在他的女儿、杰的孪生妹妹劳伦和她的朋友发现AI语音克隆诈骗案件增多之后。

他最终挂断了电话。

“接到那样的电话真是令人痛心，”弗兰克说。

“我儿子付出了如此大的努力，我一直很焦虑，担心他的事业和竞选会因此毁掉。”

作为一名律师，杰伊曾就此类诈骗进行过宣讲，当他发现自己成为了受害者时感到非常震惊。

他猜测骗子可能从他最近的竞选广告中克隆了他的声音，而这个广告就在事件发生前几天在电视上播放过。

“我一直关注着人工智能及其对消费者的影响，但没有什么能为你自己的经历做好准备，”杰伊说。

“他们做了调查。他们没有使用我的电话号码，这符合我当时在狱中无法使用手机的说法。”

这个骗局的复杂程度让杰伊震惊。

“只需要几秒钟的声音就够了，”他说。

“这项技术非常先进，他们完全可以从我15秒的竞选广告中提取我的声音。”

“网上也有我的其他视频片段，所以他们本可以用那些来克隆我的声音。”

杰伊是倡导人工智能监管改革以免此类诈骗危害他人。

他说：“我们需要三个关键的政策解决方案。“首先，如果人工智能公司的产品被滥用，这些公司必须承担相应的责任。

其次，公司应在克隆任何人声音之前要求进行身份验证。第三，AI生成的内容应添加水印，以便轻松检测，无论是克隆的声音还是伪造的视频。

如果当选为佛罗里达州众议院的议员，杰伊计划采取行动应对人工智能技术滥用日益严重的问题，包括声纹克隆诈骗。

他旨在提出立法，要求人工智能公司对其滥用行为负责，并确保它们实施必要的安全措施，如语音认证和水印技术。

“我们需要制定明确的法规来阻止这类犯罪的发生，”杰伊说。“这不仅仅是关于技术问题——更重要的是保护人们免受这些骗局带来的心理创伤和经济损失。

“我想推动更严格的要求以规范AI开发人员的行为，确保他们的工具不会被恶意使用。”

随着人工智能技术的迅速发展，杰伊和弗兰克希望他们的故事能警示他人保持警惕。

“这说明保持冷静并仔细思考是多么重要，”弗兰克指出。“如果有什么不对劲的地方，你必须倾听并提问。像这样的诈骗手段越来越复杂，但我们不能放松警惕。”