谷歌刚刚为所有人开源了人工智能文本检测工具
作者：Author: Michael Crider, Staff Writer, PCWorld
坦率地说，我认为即使谷歌已经针对LLM生成的错误信息制定了灵丹妙药，出于责任原因，它也会犹豫是否将其如此。）它还要求在实际使用之前将水印系统集成到文本生成工具中
，因此没有什么可以阻止某人简单地选择不这样做，就像恶意国家行为者甚至更明确的“免费”工具（例如 xAI 的 Grok）通常会这样做。
虽然该公司正在向消费者和企业推广自己的人工智能工具，但其核心搜索产品正面临着网络的威胁，网络似乎正在迅速填充自动生成的文本和图像。Michael 是一位拥有 10 年科技新闻经验的资深人士，报道范围从苹果到中兴通讯。“PCWorld 正在深入研究与读者产生共鸣的信息，并创造一个多方面的挂毯来传达深刻丰富的景观。”这句胡言乱语听起来可能像是人工智能生成的，但事实上，由一个有血有肉的人写的——真正是你的。事实是，很难知道特定的文本块是人工智能生成的还是真正由人类编写的。谷歌希望通过开源其新软件工具来使其更容易被发现。
谷歌称之为 SynthID
，一种“添加水印并识别人工智能生成的内容”的方法。以前仅限于 Google 自己的语言和图像生成系统，该公司宣布 SynthID 正在作为可应用的开源代码发布也适用于其他人工智能文本生成设置。（如果您比我更有计算机科学素养，您可以查看所有详细信息
在享有盛誉的
自然
杂志.)但用外行人的话说，至少在外行人能够真正理解它们的程度上，SynthID 隐藏了图像和文本中的特定模式，这些模式通常太微妙，人类无法发现，并有一个方案可以在以下情况下检测到它们：已测试。SynthID 可以“将水印编码到 AI 生成的文本中，帮助您确定文本是否是从您的 LLM 生成的，而不会影响底层 LLM 的工作方式或对生成质量产生负面影响”，根据公开的帖子
- 源机器学习数据库抱脸。
好消息是，谷歌表示这些水印可以与几乎任何人工智能文本生成工具集成。
关于《谷歌刚刚为所有人开源了人工智能文本检测工具》的评论
暂无评论