随着我们不断将 AI 引入更多产品和服务以帮助激发创造力和生产力,我们致力于帮助人们更好地理解随着时间的推移,特定内容是如何创建和修改的。我们相信人们能够访问这些信息至关重要,并且我们正在大力投资工具和创新解决方案(例如 SynthID)来提供这些信息。
我们还知道,与业内其他人合作对于提高效率至关重要。当内容在平台之间传输时,在线的整体透明度。因此,今年早些时候,我们作为指导委员会成员加入了内容来源和真实性联盟 (C2PA)。
今天,我们分享了有关如何帮助开发最新的 C2PA 来源技术并带来最新信息的信息。
来源技术可以帮助解释照片是用相机拍摄的、由软件编辑的还是由生成人工智能生成的。此类信息可帮助我们的用户就他们所参与的内容(包括照片、视频和音频)做出更明智的决策,并建立媒体素养和信任。
在作为指导委员会成员加入 C2PA 时,我们与其他成员开发和推进用于将出处信息附加到内容的技术。今年上半年,Google 合作开发了技术标准 Content Credentials 的最新版本 (2.1)。由于验证内容来源历史的技术要求更严格,因此该版本更安全,可以抵御更广泛的篡改攻击。加强针对此类攻击的防护有助于确保所附数据不被更改或误导。
在接下来的几个月中,我们将带来最新的我们的一些关键产品的内容凭证版本:
我们还探索了在使用我们将确保我们的实施根据即将发布的 C2PA 信任列表来验证内容,该列表允许平台确认内容来源。例如,如果数据显示图像是由特定相机型号拍摄的,则信任列表有助于验证这条信息是否准确。
这些只是我们考虑实施内容的几种方法今天,我们将继续将其引入更多产品。
建立和表明内容来源仍然是一项复杂的挑战,基于产品或服务的考虑范围。虽然我们知道没有适用于所有在线内容的灵丹妙药解决方案,但与业内其他人合作对于创建可持续和可互操作的解决方案至关重要。这就是为什么我们还鼓励更多服务和硬件提供商考虑采用 C2PA 内容凭证。
我们与 C2PA 的合作直接补充了我们更广泛的透明度和负责任的人工智能开发方法。例如,我们继续将 Google DeepMind 创建的 SynthID 嵌入式水印引入其他新一代 AI 工具中,用于内容创建和更多形式的媒体,包括文本、音频、视觉和视频。我们还加入了其他几个专注于人工智能安全和研究的联盟和团体,并引入了安全人工智能框架(SAIF)和联盟。此外,我们继续在去年在白宫做出的自愿承诺方面取得进展。