聪明的新骗局您的银行无法停止

我可能是一名科技记者，但我并不精通技术。某些东西破裂了，我将其关闭并重新打开，然后我放弃了。但是，即使我也能够相对轻松地对自己的银行进行深入研究。

生成的AI使模拟人们的声音变得更加容易。多年以来深击政治家，名人和已故的教皇在社交媒体上播种虚假信息。最近，黑客能够使像您和我这样的人深深扎根。他们所需要的只是您的声音的几秒钟，他们可能会在Instagram或Tiktok上的视频帖子中找到这些声音，也许还有一些信息，例如您的手机或借记卡号，他们可能可以在Dark Web上的数据泄漏中找到。

就这个故事而言，我下载了几周前坐着的广播采访的音频，在订阅了几美元的服务后，训练了一个语音生成器，然后使用文本对我的银行聊天，以一种听起来有点机器人，但与我自己相似。在五分钟的呼叫过程中，首先是自动化系统，然后是人类代表，我的Deepfake似乎几乎没有引起任何怀疑。

这是一种战术骗子，越来越多地采用。他们利用便宜的，可广泛的生成型工具来吸引人们，并访问其银行帐户，甚至以他人的名义开放帐户。这些深击不仅越来越容易制作，而且越来越难以检测。去年，香港的一名金融工作者错误地支付了2500万美元在视频通话中将公司的首席财务官和其他工作人员深深地骗取后，骗子。

那是一个主要的糟糕，但是巨大的薪水不一定是目标。该技术使犯罪组织能够模仿大规模的人，自动化他们用来骗人的少量人数的Deepfake语音电话。德勤的一份报告预测，到2027年，美国的欺诈损失可能会达到400亿美元，作为生成的AI Bolsters欺诈者，这将是2023年的123亿美元，在最近的600项埃森哲调查中。网络安全高管在银行，有80％的受访者表示，他们认为AI的加快攻击速度的速度超过了银行的回应。

这些诈骗者可以采用Gen-AI工具，并大规模地目标帐户。“他们是最好的工程师，最好的产品经理，最好的研究人员，”现实后卫的首席执行官本·科尔曼（Ben Colman）说。“如果他们可以自动欺诈，他们将使用每个工具。”除了窃取您的声音或图像外，他们还可以使用AI代伪造文件，以窃取身份，或者制造一个全新的，伪造的伪造的文件，以开放汇款的帐户。

骗子正在玩数字游戏。即使金融机构阻止了它们，他们也可以尝试另一个帐户或另一个服务。科尔曼说：“攻击者不必经常做得好，要做好。”他们不在乎只追随最富有的人。随着时间的流逝，骗取少量钱的人可能会更有利可图。根据联邦调查局的互联网犯罪投诉中心的说法，2024年的平均在线骗局在FBI从所有年龄段的人那里收到的25万多个投诉中的平均骗局不到20,000美元（60岁以上的人提出了最大的投诉，但最大的损失，但即使是20岁以下的人则损失了2250万美元）。他说：“每个人都同样是目标。”

科尔曼说，有些银行在过去几年中试图解决深层问题，而另一些银行并没有将其视为紧迫的问题。现在，越来越多的人使用软件来保护其客户。一项2024年对企业主管的调查（跨行业工作，而不仅仅是在银行业工作）发现，超过10％的人面临着未遂或成功的Deepfake欺诈行为。一半以上说，他们的员工尚未接受识别或解决此类攻击的培训。

我与美国的几家最大的银行接触，问他们正在做什么来检测并关闭Deepfake欺诈。几个人没有回应。花旗拒绝分享其欺诈检测方法和技术的任何细节。摩根大通（JPMorgan Chase）的消费者银行业务实践负责人达里乌斯·金斯利（Darius Kingsley）告诉我，银行看到“迅速发展的技术所带来的挑战可以被不良行为者利用，并“致力于继续前进，通过不断提高我们的安全协议，并投资于保护我们的客户的最先进解决方案。”

发现深击是棘手的工作。甚至Openai在2023年推出后不久就停止了其AI编写的探测器，认为其准确性太低，甚至无法可靠地检测出自己的Chatgpt产生的东西。在过去的两年中，随着工具变得更加复杂，图像，视频和音频产生都在迅速改善：如果您还记得多么令人恐惧和不现实AI Will Smith吃意大利面看起来仅仅两年前，您会很震惊地看到什么Openai的文本对电视发电机Sora，现在可以做。Generative AI在覆盖其轨道方面已经变得更加突飞猛进，这对骗子来说是个好消息。

在我与银行的Deepfake电话中，我假装我阅读了诸如我的借记卡号码和社会保险号码的最后四位数之类的信息。显然，这是我手头上的信息，但是如今，犯罪分子在黑暗网络上购买这种个人数据非常容易，因为它可能参与了数据泄漏。我生成了友好的短语，要求我的银行更新我的电子邮件地址，或更改我的别针。假我反复乞求自动化系统，将我与代表联系起来，然后让我感到高兴：“我今天做得很好，你好吗？”向另一行上的人致意。我让我要求更多时间挖掘发送给我的电话的确认代码，然后感谢代表的帮助。

当局开始向震动声音，说明瓦斯群岛变得多么容易和广泛。11月，金融犯罪执法网络向金融机构发出了有关AI，Deepfakes和身份欺诈风险的警报。美联储的州长迈克尔·巴尔（Michael Barr）在纽约联邦储备银行在纽约联邦储备银行发表讲话时说，该技术“有潜力增强身份欺诈”，并且在过去三年中，深击攻击增加了20倍。巴尔说，我们需要新的政策，以提高攻击者的成本并降低银行的负担。目前，骗子组织进行大量攻击是相对较低的风险和低成本，而银行不可能抓住每一个。

这不仅是银行接到奇怪的电话；诈骗者还将使用深击召唤人们，并模仿他们认识的人或他们使用的服务。如果可疑请求出现，我们可以采取一些步骤。“这些骗局是一种老式方法的新口味，它依赖于意外接触，并且是一种错误的紧迫感，使人们欺骗人们分开钱，”花旗的骗局政策和创新负责人阿什温·拉古（Ashwin Raghu）在一封电子邮件中告诉我。拉古说，即使他们来自听起来像朋友或家人的人，人们也应该怀疑紧急要求和意外电话。尝试花时间验证呼叫者或以不同的方式与人联系。如果电话似乎来自您的银行，您可能需要挂断电话，并使用卡上的电话号码给银行打电话以确认。

对于您对骗子可以使用AI挖掘的所有数据，只有两个人才能知道的事情。去年夏天，一位高管法拉利当他询问呼叫者几天前推荐的书时，他能够抓住公司首席执行官的声音。限制您在社交媒体上分享的内容，以及与谁打击可能成为目标的一种方法，以及诸如两因素身份验证和密码管理器之类的工具都可以存储复杂且多样化的密码。但是，没有任何万无一失的方法可以避免成为骗局的目标。

巴尔的政策思想包括在国际网络犯罪法上创造更一致的一致性，并在执法机构之间更加协调，这将使犯罪戒指更加困难。他还呼吁对那些试图使用生成AI进行欺诈的人进行惩罚。但是，这些并不是最快的解决方案，以跟上技术的变化速度。

尽管这项技术很容易获得，有时还可以在免费应用程序中，有时甚至仅购买几美元，但这个问题就不太可能孤独的狼黑客的泛滥。这些通常是由大型有组织的犯罪戒指进行的，这些戒指能够大量移动，并通过自动化来加强以进行数千次攻击。如果他们尝试1,000次通过并进行一次，那么他们将重点放在同一机构上，直到银行注意到趋势并提出解决方案以阻止它。Ioannides说：“他们寻找弱点，然后攻击它。”他说，银行应该“保持敏捷”，并采用“分层方法”以迅速发展欺诈。他说：“你永远不会阻止100％的欺诈行为。”银行通常不会是完美的，但是他们的辩护在于使自己比其他机构“对不良演员的吸引力都没有吸引力”。

最终，我无法完全破解我的银行。我试图在电话期间更改借记卡别针和电子邮件地址，但是有人告诉我必须在ATM和第二个在线上进行第一个。我能够听到我的帐户余额，并且有了更多的准备和专业知识，我也许已经能够赚钱。每个银行都有不同的系统和规则，有些银行可以通过电话更改个人信息，例如电子邮件，这可以使骗子更容易访问该帐户。我不确定我的银行是否抓住了我使用生成的声音，但我的睡眠确实好一点，知道有一些保护。

阿曼达·胡佛（Amanda Hoover）是涵盖科技行业的业务内部人士的高级通讯员。她写了最大的科技公司和趋势。