2024-09-17 20:07:14 英文原文
周二，谷歌宣布计划在其产品中实施内容身份验证技术，以帮助用户区分人造图像和人工智能生成的图像。在接下来的几个月里，这家科技巨头将把内容来源和真实性联盟 (C2PA) 标准（一个旨在跟踪数字内容的起源和编辑历史的系统）整合到其搜索、广告和潜在的 YouTube 服务中。然而，技术解决方案是否能够解决对陌生人制作的记录媒体的信任这个古老的社会问题，这是一个悬而未决的问题。
一群科技公司从 2019 年开始创建了 C2PA 系统，试图对抗误导性的、现实的在线合成媒体。随着人工智能生成的内容变得越来越普遍和真实，专家担心用户可能很难确定他们遇到的图像的真实性。C2PA 标准为内容创建了数字轨迹，并由在线签名机构提供支持，其中包括有关图像来源及其修改方式的元数据信息。
Google 将将此 C2PA 标准纳入其搜索结果中，允许用户查看图像是否是使用 AI 工具创建或编辑的。这家科技巨头在 Google 搜索、Lens 和 Circle to Search 中的“关于此图片”功能将在可用时显示此信息。
Google 信任与安全副总裁 Laurie Richardson 在一篇博文中承认跨平台建立内容来源的复杂性。她表示：“建立和表明内容来源仍然是一项复杂的挑战，需要根据产品或服务进行一系列考虑。虽然我们知道没有适用于所有在线内容的灵丹妙药解决方案，但与业内其他人合作对于创建可持续且可互操作的解决方案。”
该公司计划使用 C2PA 的最新技术标准 2.1 版，据报道该标准可提高针对篡改攻击的安全性。由于 Google 打算将 C2PA 元数据纳入其广告系统中，作为“执行关键政策”的一种方式，因此它的用途将扩展到搜索之外。YouTube 将来还可能会整合 C2PA 信息以用于摄像机捕获的内容。
Google 表示，这项新举措与其在 AI 透明度方面的其他努力相一致，包括开发 SynthID，这是一种由 Google 开发的嵌入式水印技术。Google DeepMind。
尽管已有至少五年的历史，但像 C2PA 这样有用的内容来源技术的道路是崎岖的。该技术完全是自愿的，一旦添加了关键的身份验证元数据，就可以轻松地从图像中删除。
AI 图像生成器需要支持将 C2PA 信息包含在每个生成的文件中的标准，这可能会妨碍像 Flux 这样的开源图像合成模型。因此，在实践中，与人工智能生成的图像相比，更“真实”的相机创作媒体可能会被贴上 C2PA 标签。
除此之外，维护元数据需要一个完整的工具链，支持 C2PA 的每一步。方式，包括来源和用于编辑或修饰图像的任何软件。目前，只有 Leica 等少数相机制造商支持 C2PA 标准。尼康和佳能已承诺采用它，但 The Verge 报道称，苹果和谷歌是否会在其智能手机设备中实现 C2PA 支持仍存在不确定性。
Adobe 的 Photoshop 和 Lightroom 可以添加和维护 C2PA 数据，但许多其他流行的编辑工具尚不提供此功能。只需要链中的一个不合规的图像编辑器即可破坏 C2PA 的全部用途。在线平台上普遍缺乏 C2PA 数据的标准化查看方法，这为使该标准对日常用户有用带来了另一个障碍。
目前，C2PA 可以说是一种技术解决方案，可以解决超出范围的问题。技术。正如历史学家和记者几个世纪以来所发现的那样，信息的准确性本质上并不来自于将信息记录到固定介质中的机制。它来自来源的可信度。
从这个意义上说，如果保留了 C2PA 元数据，C2PA 可能会成为通过确定信息是否来自可信来源来验证内容的众多工具之一，但不太可能本身就是人工智能生成的错误信息的完整解决方案。