Google 表示计划对 Google 搜索进行更改，以更清楚地显示结果中的哪些图像是由 AI 生成或由 AI 工具编辑的。
在接下来的几个月中，Google 将开始在搜索的“关于此图像”窗口、Google Lens 以及 Android 上的“圈到搜索”功能中标记 AI 生成和编辑的图像。未来，类似的披露可能会出现在 YouTube 等其他 Google 资产中；谷歌表示，今年晚些时候将在这方面分享更多内容。
至关重要的是，只有包含 C2PA 元数据的图像才会在搜索中被标记为人工智能操纵的图像。C2PA 是内容来源和真实性联盟的缩写，是一个开发技术标准以追踪图像历史的组织，包括用于捕获和/或创建图像的设备和软件。
公司，包括 Google、Amazon、微软、OpenAI 和 Adobe 支持 C2PA。但联盟标准尚未得到广泛采用。正如 The Verge 在最近的一篇文章中指出的那样，C2PA 面临着大量的采用和互操作性挑战；只有徕卡和索尼的少数生成式人工智能工具和相机支持该组规范。
此外，C2PA 元数据（如任何元数据）都可以被删除或擦除，或者被损坏到无法读取的程度。来自一些更流行的生成式 AI 工具（例如 xAIs Grok 聊天机器人用于图像生成的 Flux）的图像没有附加 C2PA 元数据，部分原因是它们的创建者尚未同意支持该标准。
当然，随着深度造假继续迅速蔓延，有些措施总比没有好。据一项估计，从 2023 年到 2024 年，涉及人工智能生成内容的诈骗数量增加了 245%。德勤预计，与深度造假相关的损失将从 2023 年的 123 亿美元飙升至 2027 年的 400 亿美元。
调查显示，大多数人担心被深度造假所愚弄，以及人工智能促进宣传传播的潜力。
加入 10,000 多家初创公司