人工智能专家发表的一项分析称，深度造假欺诈已经“工业化”。

创建定制甚至个性化诈骗的工具——例如利用 Deepfake视频瑞典记者或总统塞浦路斯的分析称，不再是利基市场，但价格低廉且易于大规模部署人工智能事件数据库。

它列出了最近十多个“冒充牟利”的例子，包括西澳大利亚州州长罗伯特·库克兜售投资计划的深度伪造视频，以及伪造医生的视频促进护肤霜。

这些例子是诈骗者利用广泛使用的人工智能工具来实施越来越有针对性的抢劫的趋势的一部分。去年，新加坡一家跨国公司的一名财务官员在诈骗过程中向诈骗者支付了近 50 万美元。相信是与公司领导进行视频通话。据估计，英国消费者迷失了截至 2025 年 11 月的 9 个月内，欺诈金额达 94 亿英镑。

“能力突然达到了几乎任何人都可以制作虚假内容的水平，”麻省理工学院研究员西蒙·米利厄斯（Simon Mylius）说，他从事与人工智能事件数据库相关的项目。

他计算出，在过去 12 个月中，有 11 个月，“欺诈、诈骗和有针对性的操纵”在向数据库报告的事件中所占比例最大。他说：“它变得非常容易进入，实际上没有任何进入障碍。”

“规模正在发生变化，”研究人工智能诈骗的哈佛大学研究员 Fred Heiding 说。– 它变得如此便宜，现在几乎任何人都可以使用它。这些模型变得非常好 - 它们的速度比大多数专家想象的要快得多。”

1 月初，人工智能安全公司 Evoke 的首席执行官杰森·雷布霍尔茨 (Jason Rebholz) 在 LinkedIn 上发布了一份工作机会，他的网络中的一位陌生人立即联系了他，并推荐了一名候选人。

几天之内，他就与一个表面上看起来是一位才华横溢的工程师的人交换了电子邮件。

– 我看了简历，心想，这实际上是一份非常好的简历。所以我想，尽管有一些危险信号，让我谈谈吧。”

然后事情就变得奇怪了。候选人的电子邮件直接进入垃圾邮件。他的简历有一些怪癖。但雷布霍尔茨之前曾与不寻常的候选人打过交道，因此决定继续面试。

然后，当雷布霍尔茨接听电话时，候选人的视频花了近一分钟才出现。

“背景极其虚假，”他说。– 它看起来超级非常假。处理个人边缘的[区域]确实很困难。就像他身体的一部分在进出……然后当我看着他的脸时，它的边缘非常柔软。”

雷布霍尔茨继续了谈话，不想面对直接询问候选人这是否是一个精心设计的骗局的尴尬。随后，他将一段录音发送给了一家深度造假检测公司的联系人，后者告诉他，候选人的视频图像是人工智能生成的。他拒绝了这位候选人。

雷布霍尔茨仍然不知道骗子想要什么——工程师工资，还是商业秘密。虽然已经有报告对于试图在亚马逊找到工作的朝鲜黑客来说，Evoke 是一家初创公司，而不是一家大型企业。

“这就好像，如果我们成为这个目标，那么每个人都会成为它的目标，”雷布霍尔茨说。

海丁说，最坏的情况还在后面。目前 Deepfake 语音克隆技术非常出色，诈骗者可以轻松地通过电话冒充陷入困境的孙子等。另一方面，Deepfake 视频仍有改进的空间。

这可能会产生极端的后果：对于招聘、选举以及更广泛的社会。海丁补充道：“这将是这里的一大痛点，即对数字机构以及一般机构和材料完全缺乏信任。”