一个新的Chrome扩展程序可以可靠地检测AI生成的声音
2024-10-17 13:00:59
英文原文
作者：will shanklinContributing ReporterThu, Oct 17, 2024, 9:00 PM·2 min read0
就在2024年美国选举前夕，呼叫筛选和欺诈检测公司Hiya推出了一款免费的Chrome扩展程序，用于识别深度伪造的声音。该扩展程序恰如其名，被称为嗨，深度伪造语音检测器“监听”视频或音频流中播放的声音，并赋予一个真实度得分，告诉你它可能是真实的还是伪造的。
嗨亚告诉Engadget，第三方测试者已经验证了该扩展程序的准确率超过99%。该公司表示，即使对于检测模型未曾训练过的AI生成的声音，它也能覆盖到，而且该公司声称一旦新的合成模型推出，就能立即识别出由这些新模型创建的声音。
我们在发布前试用了该扩展程序，它似乎运行得很好。我打开了一段关于蓝调先驱霍威尔·沃尔夫的YouTube视频，我认为这段视频可能使用了人工智能配音，结果它给出了1/100的真实度评分，并认为这很可能是一个深度伪造的视频。怀疑得到了证实。
嗨亚公司针对社交媒体公司制造此类工具的必要性进行了正当的批评。“很明显，当用户所消费的内容有很大可能是AI深度伪造时，社交媒体网站有巨大的责任通知用户。” 嗨亚公司的总裁库什·帕里克在一份新闻稿中写道。“目前，防范风险的责任完全在于个人，并且需要使用我们这样的深度伪造语音检测工具来检查他们是否担心内容被篡改。这要求非常高，因此我们很高兴能够提供解决方案，帮助将一些控制权交还给用户。”
该扩展程序只需要听取几秒钟的语音就能生成结果。它基于信用系统运作，以防止Hiya的服务器因过多请求而过载。您每天将获得20个信用额度，这可能足以或不足以应对大量的请求。操纵性人工智能内容你将在未来几周内社交平台上看到的内容。
关于《一个新的Chrome扩展程序可以可靠地检测AI生成的声音》的评论
暂无评论
发表评论
摘要
正值2024年美国选举之际，电话筛选和欺诈检测公司Hiya推出了一款免费的Chrome扩展程序，用于识别深度伪造声音。该公司表示，即使对于检测模型未曾训练过的AI生成的声音也能覆盖，并声称该工具可以立即识别新发布的合成语音模型创建的声音。在发布前我们试用了这款扩展程序，发现它似乎工作得很好。Hiya总裁Kush Parikh在新闻稿中写道：“显然，社交媒体平台有重大责任，在用户接触到的内容有很大可能是AI深度伪造时提醒他们。”“您每天将获得20个积分，这些积分可能或可能不足以覆盖未来几周内社交平台上泛滥的操纵性AI内容。”