小心,骗子。O2 创造了一种打击欺诈的新武器:人工智能奶奶,它会让你一直说话,直到你感到无聊并放弃。
O2,英国电信巨头 Virgin Media 的移动运营商部门(VMO2),表示它已经建立了类人人工智能来实时接听诈骗者的电话,让他们忙于打电话,并通过假装成为潜在的脆弱目标来浪费时间。
该公司声称,“Daisy”据称与真人没有区别,由于它能够进行“像人类一样”的漫无目的的聊天,欺骗骗子认为他们已经找到了完美的猎物。
据 O2 称,在国际欺诈意识周(11 月 17 日至 23 日)之前的几周里,人工智能已经用有关她家庭的曲折故事让诈骗者感到沮丧,并详细谈论了她对编织的热情。
此时,很多注册读者可能会觉得他们认识电信公司可能使用的某人作为培训数据。
但电话诈骗是一种越来越常见的威胁。犯罪分子通常在呼叫中心工作,通过冷拨电话号码试图骗取人们的钱财。常见的伎俩包括冒充他们的银行或需要付款来交付包裹的快递员,以便让他们泄露他们的银行账户详细信息。
据称,Daisy 结合了各种人工智能模型,这些模型协同工作,可以监听欺诈性电话并立即做出响应,就像在进行对话一样。通过具有角色“个性”层的自定义大语言模型 (LLM) 生成适当的响应,然后通过自定义 AI 文本转语音模型反馈以生成口头答案。
O2 声称它非常逼真,一次可以成功让欺诈者迷惑长达 40 分钟。一些骗子甚至被黛西提供虚假的个人信息(包括伪造的银行详细信息)所欺骗。
注册想知道电信公司是如何在实践中实现这项工作的。如果网络上的用户来电来自疑似诈骗运营商的号码,Daisy 是否会介入?
遗憾的是,它并没有那么复杂。O2 发言人告诉我们,人工智能有自己的专用号码,反欺诈团队成功地将其渗透到诈骗者用来针对英国人的联系人列表中。
“她有自己的电话号码。在开发 Daisy 时,我们与领先的诈骗者合作,其中包括英国最大的诈骗者吉姆·布朗宁,他们为我们提供了指导和提示,帮助我们吸引诈骗电话,”发言人说。
Jim Browning 是来自北爱尔兰的软件工程师和 YouTuber 的网络别名,他曾在 BBC Panorama 一部关于打击欺诈者的纪录片中担任主角。
“通过与吉姆合作并使用一系列策略,包括所谓的号码播种,我们能够将黛西的电话号码添加到诈骗者使用的在线“杯子列表”列表中。然后我们只需等待电话打来即可黛西随时准备好随时接听电话(24/7),”发言人解释道。
虽然它不能直接保护人们免受诈骗电话的侵害,但 O2 认为,它浪费了骗子的时间,使他们无法瞄准真正的受害者,同时还提供了有关欺诈者试图针对其目标使用的策略的情报。很高兴听到人工智能的有价值的应用来改变现状。
VMO2 欺诈总监默里·麦肯齐 (Murray Mackenzie) 在一份评论中表示:“我们致力于在阻止诈骗者方面发挥自己的作用,投资于一切,从阻止诈骗短信的防火墙技术到人工智能驱动的垃圾电话检测,以确保我们客户的安全。”。
现在,如果 O2 能够找到巧妙的解决方案来解决其他问题(例如客户服务等待时间)就好了。®