律师警告他的声音被人工智能伪造，在电话骗局中差点骗走他父亲的3.5万美元
作者：Good News Network
一位律师对其父亲差点被骗交给三千五百美元的复杂的AI语音克隆骗局发出警告。
你可能听说过利用人工智能伪造候选人声音来传播有关投票的虚假信息的选举干扰诈骗——但同样的人工智能也被用来通过电话让家庭成员感到恐慌。
冒充杰伊·舒斯特的人给他的父亲弗兰克打了电话，说服他儿子发生了严重车祸，并且已经被逮捕，需要保释金。
尽管他是一位受过教育的退休律师，这位惊恐的七十岁老人根本不知道那不是他的儿子。
我接到了一个电话，是儿子杰伊打来的。他当时歇斯底里，但我立刻就听出了他的声音。
他说他出了车祸，鼻梁骨折了，缝了16针，并且因为酒精测试呈阳性被警方拘留了，他认为这是之前服用的止咳糖浆造成的。
他的34岁儿子正在佛罗里达州博卡拉顿第91选区竞选国会议员，他认为骗子们设法从他15秒的电视竞选广告中创造出了那个假声音。
9月28日，冒名者恳求弗兰克不要将此事告诉任何人。几分钟后，另一人自称是律师“迈克·里弗斯”，说杰伊需要缴纳3.5万美元的现金保释金以避免被拘留几天。
当“河流”指示弗兰克通过加密货币机器支付保释金时，骗局升级了——这是一个不寻常的要求，加剧了弗兰克的怀疑。
“当他让我去Winn-Dixie的Coinbase机器时，我开始感到怀疑。”弗兰克说。“我不明白那怎么是合法程序的一部分。”
他最终意识到有些不对劲，在他的女儿告诉他自己接到一个利用人工智能克隆声音的诈骗电话并挂断了电话之后。
“接到那样的电话真是令人痛心，”弗兰克说，“我儿子付出了那么多努力，我当时急得不行，觉得他的事业和竞选可能都会毁了。”
了解更多: 英雄银行职员通过询问几个简单的问题救客户于诈骗陷阱，避免客户损失数百万
杰伊作为一名经常出庭处理消费者欺诈案件的律师，发现自己成了目标，感到十分震惊。
“我一直关注着人工智能及其对消费者的影响，但没有什么能为你真正发生在自己身上的事情做准备，”杰伊说。
“他们做了调查。他们没有使用我的电话号码，这符合我当时在狱中无法使用手机的说法。”
这个骗局的复杂程度让杰伊震惊，他说：“只需要几秒钟的声音——这项技术如此先进，他们完全可以从我15秒的竞选广告中提取我的声音。”
杰伊正在倡导改变人工智能监管以防止此类诈骗伤害他人。
又一起骗局被揭露: 英雄邮局工作人员救下老人 避免其向骗子汇款数千美元
“我们需要三个关键的政策解决方案，”他说。“首先，如果人工智能公司的产品被滥用，这些公司必须承担相应的责任。”
“其次，公司在克隆任何人声音之前应要求进行身份验证。第三，人工智能生成的内容应该加水印，以便易于检测，无论是克隆的声音还是伪造的视频。”
如果当选为佛罗里达州众议院成员，杰伊计划采取行动应对人工智能技术滥用日益严重的问题，包括语音克隆诈骗。
他旨在提出立法，使人工智能公司对其滥用行为负责，并确保它们实施必要的安全措施，如语音认证和水印技术。
“我们需要制定明确的法规来阻止这类犯罪的发生，”杰伊说。“这不仅仅关乎技术——更重要的是保护人们免受这些诈骗带来的心理创伤和经济损失。
惊人成果：
• 银行决定本应防止痴呆存款人被骗——因此恢复了全部生活储蓄
• 女子遇到网络诈骗者，帮助他放弃犯罪并支付他的大学学费
“我想推动更严格的要求以规范AI开发人员的行为，确保他们的工具不会被恶意使用。”
随着人工智能技术的迅速发展，杰和弗兰克希望他们的故事能警示他人保持警惕。
“这说明保持冷静、仔细思考是多么重要，”弗兰克指出。“如果你觉得有什么不对劲，就必须听别人说并提出问题。像这样的诈骗手段越来越复杂了，但我们不能放松警惕。”
请与朋友和家人分享，以便他们可以避免被骗……
暂无评论