为了防止深度伪造视频侵入其网站，雅虎新闻寻求迈克菲公司的帮助

2024年美国总统竞选活动中出现了一些值得注意的深度伪造视频——利用人工智能技术模仿候选人的虚假内容，旨在试图误导选民或者贬低候选人遭到 targeting。感谢埃隆·马斯克的转发，一个深度伪造视频已被查看超过143次百万 times.（由于源文本"times."没有具体含义或可直接翻译的内容，故原样返回。）

不择手段的竞选活动或外国对手使用人工智能来影响选民的可能性已经令全国各地的研究人员和官员感到担忧，他们表示，由人工智能生成和操纵的媒体已经在网络上迅速传播。例如，克莱姆森大学的研究人员发现，在社交平台X上存在一种影响力 campaign（注：原文中的“that’s”后面的内容似乎不完整，因此只翻译了可确定的部分）。使用AI生成评论从支持前总统特朗普和其他共和党候选人的680多个机器人账号中；自三月以来，该网络已经发布了超过13万条评论。

为了增强其对抗操纵图像的防御能力，雅虎新闻——一个最受欢迎的在线新闻网站之一，吸引了超过1亿9千多万根据Similarweb.com的数据，每月访问量的Yahoo于周三宣布将整合网络安全公司McAfee的深度伪造图像检测技术。该技术将审查Yahoo新闻贡献者提交的图片，并标记出可能是由AI生成或修改过的图片，帮助网站的编辑标准团队决定是否发布这些图片。

雅虎家庭生态系统总裁兼总经理马特·桑切斯表示，该公司只是想比骗子们领先一步。

“虽然深度伪造图像目前不是雅虎新闻的问题，但迈克菲的这项工具帮助我们保持前瞻性，因为我们一直致力于确保提供优质体验，”桑切斯在一封电子邮件中说道。“这一合作增强了我们现有的努力，使我们在准确性、速度和规模方面更加出色。”

桑切斯表示，新闻行业的各个媒体都在思考深度伪造内容带来的威胁——“不是因为这是一个目前泛滥的问题，而是因为它可能被滥用的风险即将来临。”

然而，由于易于使用的AI工具，深度伪造内容已经泛滥到了这样的程度，40%的高中生8月份进行的一项调查显示，有学生听说在学校里有人分享某种深度伪造的图片。在线政治深度伪造数据库由普渡大学三位学者编纂的这份名单包括近700项条目，其中仅今年就有超过275项。

McAfee首席技术官兼执行副总裁Steve Grobman表示，与Yahoo News的合作源于该公司在开发帮助消费者在其计算机上检测深度伪造内容的产品方面的工作。公司意识到其用于标记潜在AI生成图像的技术对于新闻网站来说非常有用，特别是像雅虎这样的网站，它结合了自己的记者的作品和其他来源的内容。

迈克菲的技术增强了雅虎原本就拥有的“丰富的功能集”，用于检查来自其来源的材料的完整性，格罗布曼表示。这款深度伪造内容检测工具本身由人工智能驱动，会检查图像中的数百万个数据点，寻找人工智能工具留下的类似痕迹。

“关于人工智能的一个非常棒的事情是，你不需要告诉模型要寻找什么。模型会自己找出需要关注的东西，”Grobman说。

“假货的质量正在迅速提高，我们合作的一部分就是为了应对这一问题，”他说。这意味着要监控图像生成的最新技术进展，并利用新的例子来改进迈克菲的检测技术。

Attestiv这家防欺诈公司的首席执行官Nicos Vekiarides表示，他的公司与制造AI驱动的图像生成器的公司之间存在着一场军备竞赛。“他们的技术在不断进步。异常情况变得越来越少，”Vekiarides说道。尽管主要行业参与者越来越多地支持在AI生成的内容中插入水印，但他指出，不良行为者不会遵守这些规则。

在他看来，深度伪造的政治广告和其他虚假材料向广大受众传播不会有太大影响，因为“它们很快就会被揭穿。”他说，更有可能造成危害的是影响力人士将其深度伪造内容推送给追随者或个体间传递的此类内容。

丹尼尔·康，伊利诺伊大学厄巴纳-香槟分校的计算机科学助理教授以及深度伪造检测专家警告说，目前没有足够的AI检测工具能够捕捉到一个动机强烈且资源充足的攻击者，例如一个由国家支持的深度伪造创作者。由于图像可以被操纵的方式非常多，“攻击者可以调用比宇宙中的星星还要多的‘旋钮’来试图绕过检测机制。”他说。

但许多深度伪造内容并非来自高度复杂的攻击者，这就是为什么康表示他对当前用于检测AI生成媒体的技术持乐观态度，即使这些技术不能识别所有内容。目前将AI驱动的工具添加到网站中可以使其随着时间学习并变得更好，就像垃圾邮件过滤器一样。

它们不是万能解决方案，他说；需要与其他防范操纵内容的措施结合使用。不过，康表示：“我认为我们有一些可以利用的好技术，并且这些技术会随着时间的推移而变得越来越好。”

维基阿里德斯表示，公众已经为深度伪造内容的泛滥做好了准备，因为他们接受了广泛使用图像编辑工具的事实，例如那些几乎可以去除杂志封面照片中瑕疵的照片编辑器。他说，从Zoom通话中的虚假背景到在网上与你见面的人的深度伪造图像，并不是很大的一步。

“我们已经泄密了，”Vekiarides说，“现在很难再保守秘密。”