警方警告称，不要落入克隆警察声音的人工智能骗局
2024-10-28 18:08:07
英文原文
报告显示，人工智能为诈骗者提供了一种更有说服力的冒充警察的方式。
就在上周，盐湖城警察局 (SLCPD)警告使用人工智能令人信服地克隆警察局长迈克·布朗的声音的电子邮件诈骗。
一名公民收到一封可疑电子邮件后向警方举报，其中包含一段视频，显示警察局长声称他们“欠联邦政府近 10 万美元”。
为了欺骗他们的目标，诈骗者将布朗之前接受的一次电视采访的真实镜头与人工智能生成的音频剪辑在一起，SLCPD 称该音频“清晰且高度模仿布朗酋长的声音，这可能会让社区成员相信该信息是合法的”。”
联邦调查局有警告多年来，诈骗者试图冒充警察或政府官员进行勒索。但随着人工智能语音克隆技术的进步，这些骗局可能会变得更难被发现，以至于即使是最具前瞻性的公司像 OpenAI由于对潜在滥用的明显担忧，一直在犹豫是否发布最新技术。
SLCPD 指出，这封冒充警察局长的电子邮件中有一些线索，精通技术的公民可能会发现。更仔细的聆听会发现“该消息有不自然的语音模式，对某些单词的强调奇怪，语气不一致”，以及“从一个句子到下一个句子的可检测到的声音编辑”。也许最引人注目的是，这封诈骗电子邮件来自“一个谷歌帐户，其中有盐湖城警察局的名字，后面跟着一个数字”，而不是来自警察局的官方电子邮件域“slc.gov”。”
SLCPD 并不是唯一一个处理人工智能警察模仿者问题的警察部门。塔尔萨今年夏天也遇到了类似的问题，诈骗者开始使用令人信服的假声音给居民打电话，声音设计得像塔尔萨警察埃里克·斯普拉德林（塔尔萨公共广播电台）报道。接到电话的软件开发人员迈尔斯·大卫 (Myles David) 表示，他了解当今的人工智能风险，但即使是他也“措手不及”，不得不打电话给警方以核实电话是否真实。
关于《警方警告称，不要落入克隆警察声音的人工智能骗局》的评论
暂无评论
发表评论
摘要
正如盐湖城警察局 (SLCPD) 最近报道的那样，诈骗者正在利用人工智能来克隆执法官员的声音，令人信服。诈骗者发送了一封包含视频剪辑的电子邮件，该视频剪辑结合了迈克·布朗局长采访的实际镜头和人工智能生成的模仿他声音的音频。联邦调查局长期以来一直对涉及冒充警察或政府官员的诈骗发出警告，但人工智能语音克隆技术的进步使这些诈骗更难被发现。SLCPD 强调了诈骗电子邮件中的具体线索，例如不自然的语音模式和非官方电子邮件地址，这可能有助于识别欺诈消息。今年夏天，塔尔萨也发生过类似事件，诈骗者使用假声音冒充当地警察。