Google推出了一种名为Synthid的数字水印系统，该系统谨慎地标记了由人工智能生成或大量编辑的图像。该技术将不可察觉的标识符嵌入了AI创建或AI修饰的照片的像素中，人类看不到这些照片，但是软件可以检测到。
与传统的可见水印或徽标不同，Google的无形水印不会改变图像的外观或质量。它也被设计为坚固，即使经过裁剪，过滤或压缩图像等通用编辑之后，它仍然保持完整。这种弹性意味着，即使稍后进行调整或轻微修改，AI生成的图像仍然可以识别。Google的目标是这些隐藏的标记将有助于快速识别AI生成的内容，增强透明度和在线信任。
标记AI生成和AI-AIDITED图像以透明
Google开始在其产品中推出SynthID，以清楚地标记AI创建或更改的内容。从今年秋天开始，将水印系统集成到Google Photos的魔术编辑器（特别是其新的Reimagine AI编辑功能）上。当用户使用AI（例如添加或删除人员或主要对象）对照片进行重要编辑时 - 将隐形的合成水印嵌入了保存的图像中。（轻微的修饰，例如巧妙的调整颜色，可能太小而无法触发水印。）
Google已经将Synthid应用于其文本对图像模型图像完全生成的图像，现在将其扩展到AI-edited照片。根据Google的说法，这项努力是围绕AI的更广泛推动的一部分。通过确保可以确定AI参与图像，Google的目的是遏制依赖不可检测的图像更改的深层信息。
合成水印如何工作
SynthID是由Google的DeepMind Team开发的，目的是应对在不影响图像美学的情况下标记AI输出的挑战。它通过以图像上微妙的模式更改低级像素数据来起作用。这些变化是如此轻微，以至于它们对肉眼看不见，但是它们形成了一种数字签名，专门的检测工具（或Google自己的验证软件）可以阅读。由于模式散布在整个图像中，因此即使将图像裁剪或重新着色，它也会持续通过修改，标识符仍保持嵌入。
在Google的实施中，只有AI检测模型才能识别水印。在人眼中，图片看起来不变。Google最初将合成的集中在其自己的AI模型和服务的内容上，例如成像生成的艺术或魔术编辑器输出。EAVERWaterMark基本上是一个代码，该代码与AI参与创建的事实，最终也可能最终也可以指示使用了哪种AI模型或工具。Google和其他科技公司希望这种技术将成为标准的，以便可以可靠地追踪AI源源媒体。
行业反应和专家观点
行业专家通常欢迎Google朝着更透明的AI媒体迈出一步，但许多人警告说，仅凭水印并不是一个完整的解决方案。数字水印公司Digimarcâ官员Ken Sickles警告说，只有水标为AI生成的内容解决了证明内容真实性的问题。他指出，大多数AI生成的媒体用于良性目的，而相反，恶意演员可以简单地使用不应用任何水印来创建欺骗性图像的工具。换句话说，如果只有一些公司标记其AI内容，而其他公司则不会有不良演员可以通过选择未标记的方法来轻松逃避检测。对分裂的关注也令人担忧：目前，多家公司正在开发自己的AI内容标记系统，从Google的Synthid到亚马逊，微软，Meta等人的努力。没有协调性或互操作性，没有任何水印标准涵盖所有内容。Google DeepMind的首席执行官表示希望Synthid可以发展成为更广泛的互联网标准，但截至目前，这是几种竞争的方法之一。相反，一些专家指出，诸如C2PA（内容出处和真实性联盟）之类的计划将加密出处数据嵌入到文件中 - 是数十家大公司采用的更有希望的通用解决方案。对于任何真正工作的标记方法，它都必须是普遍的。一个分析指出，每个AI图像发生器都必须将其检测系统嵌入每个文件中。同时，Google的举动被视为积极的一步，但利益相关者同意身份验证数字内容所需的更大努力的一部分。
数字权利倡导者和民间社会团体也加入了权衡。他们赞赏标记AI创建图像的透明度好处，但敦促谨慎对待该系统的实施或执行。一个问题是，如果政府或公司要求AI水印，它可能会侵犯隐私或自由表达。“强制[水印]是隐私[和]言论自由之类的基本权利的潜在风险。创作不由自主地标记。例如，使用AI工具的艺术家可能不希望他们的作品普遍标记，或者举报人可能需要匿名，强制性水印可能会妥协。执法是另一个挑战。专家指出，如果他们知道那里的对手可以试图去除或破坏水印。实际上，只需调整图像文件最小的像素或稍微调整/旋转图像的图像有时就可以破坏嵌入式水印图案。Google声称SynthID对许多此类改动具有抵抗力，但承认，熟练的攻击者可能并非不可能。
展望未来
水印将需要广泛采用（理想情况下是许多平台使用的开放，常见标准）才能有意义地阻止误导AI图像的流动。监管机构正在密切关注这些发展：在某些地区，立法者提议要求AI生成的内容清楚地披露或水印。到目前为止，Google的方法是自愿的，并且专注于自己的生态系统，该公司主张行业合作而不是等待监管。在接下来的几个月中，专家建议密切关注合成在现实情况下的表现效果。研究人员，记者和数字权利团体的反馈可能会塑造下一次迭代。诸如SynthID之类的透明度工具可能会成为在线媒体的固定装置，但它们将与其他验证方法（例如出处元数据和用户教育）一致，以打击深层蛋糕，并确保观众可以信任他们所看到的。
