AI 简报：Google Deepmind 开源 SynthID，用于为生成的文本添加水印

“能够识别人工智能生成的内容对于促进信息信任至关重要”，阅读 DeepMind博客文章。– 虽然 SynthID 不是解决错误信息或错误归因等问题的灵丹妙药，但它是针对这一紧迫的人工智能安全问题的一套有前景的技术解决方案。 –

在本周发表的一篇论文中自然，Deepmind 研究团队解释了创建和测试过程。生成文本时，人工智能模型使用“随机种子”嵌入不可见的签名，并使用基于评分的系统的统计模式来塑造输出文本。然后，当检测文本是否是使用秘密水印密钥通过生成式人工智能创建时，该过程会在另一端有所帮助。研究人员还指出，生成水印是完美的，但在翻译、重写或与较短的文本和事实内容一起使用时存在局限性。

虽然一些专家此前曾警告人工智能内容加水印还不够，C2PA 等组织正在努力创建新的标准对于人工智能内容透明度和真实性，主要成员包括谷歌和其他科技巨头。

Google 还使用近 2000 万个 Gemini 响应进行了现场实验，测试了 SynthID 文本。除了测试水印过程的准确性外，谷歌还让 Gemini 用户对文本进行“同意”或“反对”的评价。研究人员发现 SynthID 文本不会降低输出质量，也不会显着改变带有 SynthID 水印的 AI 文本的质量或有用性水平。该团队还进行了一项小型测试，根据语法、相关性、准确性、有用性和质量，对带水印和未带水印的输出进行了 3,000 条回复。

营销和品牌安全专家表示，总体而言，这种方法似乎是积极的一步，但这可能取决于整体功效和采用水平。各种民意调查发现，消费者对生成人工智能内容的透明度很感兴趣，SOCi 的一项调查发现，76% 的消费者希望至少有一定程度的清晰度。

现在了解 SynthID 可能为各种法学硕士带来透明度的所有方式还为时过早，但它可能有助于检测社交平台上人工智能生成的错误信息。SOCi 市场洞察总监达米安·罗里森 (Damian Rollison) 表示，如果所有人工智能生成的内容（无论是有益的还是有害的）都能够被明确识别，那就太理想了。

“众所周知，人工智能内容猖獗的平台必须以对出版商、广告商和消费者都有帮助的方式实际实施这种或类似的解决方案，”罗利森说。“不幸的是，像谷歌本身、Meta、X 等平台都间接受益于人工智能内容的激增，因此它们打击虚假内容的意愿可能会与影响广告收入和参与度指标的抑制因素相平衡。”

其他人同意扩展将是关键，但也许并不能解决所有问题。Seekr 产品副总裁 Nick Sabharwal 表示，这可能只对不成熟的演员有帮助。例如，教师检查学生是否使用 Gemini 或 ChatGPT 来撰写论文，或者消费者检查营销或客户服务消息是否是人工智能生成的。Sabharwal 表示，检测工具可能有所帮助并且是必要的，但不太可能阻止有害内容。这是因为恶意行为者会转移到不使用水印的其他平台。

“法学硕士和法学硕士提供者已经大幅增加，”Sabharwal 说。– 整合似乎不太可能。此外，想要传播错误信息的邪恶大型参与者（例如民族国家）也可以开发其专有模型来绕过这些护栏。

如果 SynthID 扩展成功，是否可以帮助防止在线广告在人工智能生成的网站（例如 MFA）上投放？检查我的广告的情报总监阿里尔·加西亚 (Arielle Garcia) 表示，有可能。但除非 SynthID 明确说明其概率分数，否则广告验证中可能存在类似的错误标记风险。加西亚还指出，多边金融协定和其他计划在很大程度上仍然是一个激励问题，而不仅仅是一个技术问题。

“广告技术公司、代理机构和其他按量付费的供应商仍然从 MFA 中赚了很多钱，”加西亚说。– 如果品牌没有或无法确认其广告投放的位置，则可能会成为另一个空洞/虚假的保证。 –

提示和产品 – AI 新闻和其他公告

• 超过 25,000 名创作者已签署陈述关于未经许可使用创意作品来培训 GenAI 的问题，警告称“这些作品背后的人们的生计受到不公正的威胁，因此绝不能被允许。”
• 一名自杀青少年的母亲对 Character AI 提起诉讼，称这款角色扮演聊天机器人应用程序导致了她儿子的死亡。这一消息引发了关于人工智能聊天机器人危险性的新讨论，特别是对于年轻人和易受影响的用户而言。
• 一个新的报告Snowflake 着眼于正在塑造营销格局的与人工智能相关和无关的新兴趋势，包括数据引力、生成式人工智能、隐私问题和商业媒体的兴起。
• AI Deepfake 检测初创公司 Reality Defender 宣布在 A 轮融资中追加 1500 万美元资金，新投资来自 Accenture、IBM Ventures 和其他来源。（在其他新闻中，迈克菲和雅虎新闻合作验证图像的真实性并防止人工智能错误信息。）
• OpenAI 和微软宣布与众多出版商达成 1000 万美元的协议，其中包括《明尼苏达明星论坛报》、《费城问询报》和其他主要城市报纸。
• 欧洲议会是使用Anthropic 的 Claude AI 模型用于创建和扩展交互式数字档案。
• RunwayAI 发布了一款新的动作捕捉工具，让人们可以在智能手机的视频中使用生成式人工智能。
• 美国联邦贸易委员会禁止虚假评论的新规则生效，该规则规范了人类和人工智能的欺骗性营销策略。（读更多的在我们最近的解释中。）
• 人择首次亮相一种新的人工智能工具，能够像人类一样通过移动鼠标来“控制”电脑。与此同时，微软计划接下来开始让公司通过 Copilot Studio 创建自己的自主人工智能代理。
• 谷歌释放用于创作音乐的新生成人工智能工具。

• Perplexity 在试图赢得出版商和广告商的支持时面临着新的法律压力（数码日）
• 出版高管如何将生成式人工智能工具纳入他们的工作流程（数码日）
• Mondeläz 在内部采用人工智能来尝试控制营销成本（数码日）
• 媒体简报：今年的搜索推荐流量变化给出版商带来了巨大冲击（数码日）
• Daze 是一款面向 Z 世代的创意人工智能消息应用程序，正在抢先发布（TechCrunch）
• 公司不再关注聊天机器人，而是寻求人工智能回报（华尔街日报）
• 谷歌、微软和 Perplexity 正在搜索结果中宣扬科学种族主义（有线）

Fiverr 首席营销官 Matti 雅虎谈论取笑人工智能热潮的新活动

每个人都厌倦了听到人工智能，但 Fiverr 现在有一首新的百老汇风格歌曲，讲述了他们到底有多累。你猜怎么着？它是用人工智能制作的。

自由职业服务在线市场发起了一项新活动，取笑当前的炒作周期。它强调人工智能是一种工具，而不是万金油或企业药膏。该广告名为“没人关心，”上周推出，宣传自由职业者越来越多地使用人工智能工具，其中一些人正在为一系列客户的项目中使用各种生成式人工智能平台。

– 我们在我们的动态、LinkedIn 动态以及您整天使用的任何社交媒体中看到它：人工智能。人工智能。人工智能——Fiverr 首席营销官 Matti Yahav 告诉 Digiday。– 当然，人工智能是令人惊奇的。这是一个很棒的工具。但归根结底，重要的是结果。这就是影响。”

事实上，Yahav 表示，该广告本身是使用近十几种生成式人工智能工具制作的。对于图像，它使用了 Midjourney、Ideogram、Leonardo、Flux 和 Photoshop Generative Fill。动画是使用 Runway Gen3、Kling 和 Minimax 制作的。Lipsyncs 和 Faceswap 也使用了 Runway 和 Kling 以及 Liveport。

Yahav 表示，Fiverr 发现该平台上人工智能项目的兴趣日益浓厚。虽然增长因领域和行业而异，但他表示音乐和音频是其中最突出的两个领域。他认为业界应该停止谈论某些东西是否是由人工智能制成的，而应该更多地谈论它所提供的服务：“你知道有多少服务是由人工智能制成的吗？”我不确定，但这就像其背后的人才一样，整合一切，确保您获得最佳输出。”

虽然人工智能正在提高许多人的生产力，但对准确性、质量和法律影响的担忧仍然存在。大约 25% 的美国自由职业者和 50% 的英国受访者一样担心隐私、法律和版权问题。Fiverr 还表示，它有防止人工智能在平台上滥用的防护措施，但 Yahav 拒绝透露更多有关这些策略的内容。（相反，公司发言人指示 Digiday 遵守 Fiverr 的社区标准页.)

以下是 Fiverr 最新报告中关于今年整个平台人工智能使用趋势的一些其他详细信息。该结果基于对 3,300 名 Fiverr 自由职业者的调查。

• 热门工具包括 ChatGPT（88% 的受访者使用）、Midjourney（37% 使用）、Firefly (29%)、Quillbot (18%)、Hugging Face (18%) 和 Gemini (15%)。
• 编程和科技行业对人工智能的使用已从 2023 年的 10% 跃升至 2024 年的 86%。音乐和音频已从 2023 年的 8% 跃升至今年的 41%。
• 文本和内容生成现在是最流行的使用 AI 的 Fiverr 工作类型（40% 的受访者使用它），而受访者在 19% 的视觉和艺术项目中使用它，并且 18% 的受访者将其用于数据分析。时间。
• 目前，超过三分之一的自由职业者正在付费订阅 AI 工具，而 AI 工具的付费订阅者总数将比 2023 年增长 10%。
• 三分之二的自由职业者表示人工智能有助于提高生产力。

https://digiday.com/?p=558865