FBI表示，人工智能正在帮助网络犯罪分子通过搭讪获取非法收益
作者：Jillian D’Onfro can be reached at jdonfro@sfstandard.com
多年来，骗子们一直使用了调情或听起来很急迫的信息诱骗受害者给他们转账，但现在他们的手段被超级增强由生成式AI工具根据FBI的说法，这可以使消息更具说服力，甚至可以模仿心爱之人的话语声音。
投资诈骗——通常被称为“养猪诈骗”，因为他们涉及广泛地接触并“充实”受害者然后再行骗——今年这类案件正在激增，而FBI将生成式人工智能工具视为问题的一部分。
美国联邦调查局的互联网犯罪投诉中心从一月到十月收到了关于投资诈骗的38,000份报告，造成47亿美元的损失。这比去年同期的30,000份报告和36亿美元的损失有所增加。
“我坚信[生成式AI]在去年的相对剧增中扮演了重要角色，”FBI旧金山分部的监督特工斯科特·海尔曼说道。“生成式AI工具很快变得几乎人人都可以使用，并且它们迅速普及——我们当然看到网络犯罪分子在使用它们。而它们非常擅长于什么呢？按照创作者想要的语气创造语言和语音。”
恶意行为者可以利用这些工具制作诱骗受害者的消息，使其相信自己正在被潜在的恋爱对象、政府机构、精明的投资人或家人联系。
而网络犯罪分子可以利用主流的人工智能工具如开放AI的ChatGPT或者Anthropic的人类CloseOperation:ANCELED出现了一些专门帮助骗子的服务，比如虫洞GPT以及明目张胆的欺诈GPT据Hellman透露，这些工具已经被FBI关注。
“你不能仅仅追查键盘背后的人员；我们必须针对支撑整个生态系统的服务采取行动，”他说。“但我们必须收集证据，这需要花费大量的时间和精力。”
这些骗局通常针对老年人和英语水平有限的人。例如，一位居住在旧金山的日裔美国男子走失了几乎40万美元，在有人唆使他投资一种假的加密货币之后，而一个圣克拉拉的一名男子捐赠了26万美元与一个骗子通过短信建立了一段所谓的情感关系。
这些骗局通常从以下开始：社交媒体或 dating app（约会应用）或者通过看似无害的“打错电话”的消息。一旦受害者开始回应，骗子就会进一步引导他们，并最终索要钱财或推荐投资。
“无论语气是浪漫的、信任的、恐惧的还是诱惑的——所有这些类型的语气，GenAI都能胜任。”Hellman说。
受害者经常被提示通过加密货币放弃他们的储蓄。在FBI旧金山地区办事处管辖的区域内，包括湾区和几个其他县，去年与加密货币相关的诈骗案涉及1226名受害者，损失金额超过2.6亿美元。
基于恐惧的手段是犯罪分子最常用的一些策略；例如，让受害者认为自己正在接受国税局的调查，或者使用声音克隆服务模仿亲人请求帮助，Hellman说。
这就是为什么他建议人们在收到压力消息时放慢速度并进行逻辑思考，而不是让情绪驱使他们草率做决定。
“如果你打开一封电子邮件或接到电话或短信，你的第一反应是感到恐惧或焦虑，这可能是某种迹象，表明可能有人试图利用你。”Hellman说。“要能够识别当你身体产生特定感觉时的情况，并对此有所察觉。”
暂无评论