人工智能虚假信息越来越难被发现

人类不是很好的物种 在检测AI生成的文字、图片和视频方面，目前正在进行中，随着AI模型的改进，检测将会变得更加困难。

为什么这很重要：如果我们不能AI生成的内容分离从人为创作的材料中，政府和企业将发现自己越来越容易受到新的攻击——既有针对性的操作也有更广泛的误导性攻势。

• 不良行为者成功的时候是公众认为这是真的时候无法知道什么是真实的，什么不是。

他们在说：“我们现在已经到了人类无法可靠地区分合成生成的文本、音频和图像的地步了，”锡耶纳学院的研究教授杰森·戴维斯告诉Axios。

• 戴维斯在他的角色中专注于通过Semantic Forensics（语义取证）项目检测错误信息，该项目由DARPA资助。
• "虽然在合成视频生成方面的能力仍然略低于其他媒体类型，但其发展速度非常快，我预计这些能力将在几个月内而非几年内与其它媒体类型持平。"
• 即使我们能够检测出由AI生成的内容，戴维斯说，我们也只是在损害已经造成之后以被动反应模式进行检测。

例证：商用可用的检测AI生成内容的工具尽管它们的制造商声称 otherwise，这些产品目前还不能很好地工作。注意这里的"otherwise"是原文中没有的部分，由于原句结构的问题，在直接翻译时需要稍微调整以确保句子通顺，因此保留英文单词表示对原文意图的理解，并非原文的一部分。如果严格按照无额外添加的原则，则输出： 尽管它们的制造商声称，这些产品目前还不能很好地工作。

• 水印技术受到大型科技公司的青睐特别不适合用于防止虚假信息的传播。
• 没有人想出如何创建无法被有决心的恶意行为者绕过的水印。
• 为了使水印生效，所有创建生成式AI工具的人必须同意实施它们。
• 犯罪分子也可以使用现成的不产生水印的生成式人工智能工具。

放大： вместо сосредоточения на инструментах обнаружения, технологические компании сконцентрировались на маркировке содержимого с использованием ИИ — но маркировка根本性的缺陷既然今天如此多的内容已经是人与机器合作的产物。

• 今年7月，Meta公司在收到投诉后将其标签措辞从“使用AI制作”改为“AI信息”，此前有摄影者反映其算法在照片仅经过轻微润饰的情况下便将内容标记为AI生成。
• 和业界其他公司一样，我们发现基于这些指标的标签并不总是与人们的期望一致，也没有始终提供足够的背景信息。Meta宣布在一篇博客文章的更新中。

放大查看：（注意这里的“Zoom out”通常是指从细节退一步看整体，直译可能更准确的是“缩小范围查看”或“后退查看”，但根据上下文理解，“放大查看”可能不完全贴切。如果需要保留原意，则应翻译为“后退查看”。此处假设语境为界面操作，“放大查看”可能是特定软件中的术语表达，故输出此版本。）原文：Zoom out:Adobe将其标注工作集中在来源出处这意味着要明确内容是在哪里生成的以及它在途中经历了什么。

• 2019年，该公司推出了内容真实性倡议，重点关注免费的出处工具，如内容凭证。
• Adobe将Content Credentials称为数字内容的“营养标签”，包括内容创建和编辑的日期和时间，并指示“AI是否以及如何被使用”。
• Adobe发言人安德鲁·查告诉Axios：“内容凭证并不是用来检测一张图片是否是假的工具。”“它被用作一种工具，向消费者展示出处信息，以便他们能够做出关于内容可信度的知情决定。”

字里行间：立法者已提出关于在政治广告中使用和披露合成材料的相关政策。

• 为了使披露规则生效，它们必须“具有执行力”，圣克拉拉大学马尔库拉应用伦理学中心的新闻与媒体主任Subramaniam Vincent告诉Axios。而且，“它们需要真正及时的执行。”
• 虽然在竞选广告中使用人工智能没有联邦法律规范，大约20个州已经制定了关于人工智能使用和披露的法律。

是的，但是：虽然印第安纳州是那些要求在竞选材料中披露人工智能生成内容的州之一，但这似乎并没有阻止共和党参议员迈克·布劳恩发布一则竞选广告，在这则广告中，他的对手被描绘成站在讲台上，周围的支持者举着写有“不要使用燃气灶！”标语的牌子。

• Politico报道该广告被数字修改过，并且活动中没有讨论燃气灶。
• Braun没有为这则广告道歉，根据说法 Axios印度安那波利斯但是用一个不包括篡改图像的版本替换了原来的版本。“没有任何竞选活动会是完美的，”布劳恩说。
• 该竞选广告包括“不用燃气灶!”的图片以及一个标签说明视频被数字修改或人工生成，是仍然发布中在Braun的Facebook页面上。