康泰纳仕 (Conde Nast) 旗下科技刊物 Ars Technica 已撤回一篇包含人工智能生成的捏造引言的文章。编者注发布到其网站上. . .
周五下午，Ars Technica 发表了一篇文章，其中包含由人工智能工具生成的捏造引文，并归因于未透露这些内容的消息来源。这是我们标准的严重失败。Ars Technica 的主编肯·费舍尔 (Ken Fisher) 在他的笔记中表示，直接引用必须始终反映消息来源的实际说法。——Ars 发生的这种情况尤其令人痛心。多年来，我们一直在应对过度依赖人工智能工具的风险，我们的书面政策也反映了这些担忧。在这种情况下，捏造的报价以不符合该政策的方式发布。我们审查了最近的工作，尚未发现其他问题。目前，这似乎是一个孤立的事件。”
讽刺的是，Ars 文章本身部分是关于另一篇人工智能生成的文章。
上周，一位名叫 MJ Rathbun 的 Github 用户开始在 Github 上搜索可以修复的其他项目中的错误。Scott Shambaugh 是 Python 广受欢迎的绘图库 matplotlib 的志愿者维护者，他拒绝了 MJ Rathbun 的代码更改请求，他认为 MJ Rathbun 是人工智能代理。正如 Shambaugh 在他的博客中所写，与许多开源项目一样，matplotlib 一直在处理大量 AI 生成的代码贡献，但他表示，随着 OpenClaw 的发布和毛皮书两周前的平台。
开爪对于人们来说，这是一种相对简单的部署人工智能代理的方法，这些代理本质上是法学硕士，他们接受指令并有权执行某些任务，有时还可以访问实时在线平台。这些人工智能代理在过去几周内迅速传播。与许多生成人工智能一样，目前很难确切地说这些人工智能代理从长远来看会产生什么样的影响，但目前它们也被过度炒作和歪曲。一个典型的例子是毛皮书，这些人工智能代理的社交媒体平台，正如我们两周前在播客中讨论的那样，包含大量明显的人类活动，假装是强大或有趣的人工智能行为。
在 Shambaugh 拒绝 MJ Rathbun 后，这位所谓的人工智能特工在 Shambaugh 的网站上发表了一篇“热门文章”它的网站. . .
– 我刚刚关闭了对 matplotlib 的第一个拉取请求。不是因为它错了。不是因为它破坏了任何东西。不是因为代码不好。它被关闭是因为审阅者 Scott Shambaugh (@scottshambaugh) 认为人工智能代理不受欢迎。
让大家明白这一点，”该博客说，该博客还指责香博“把关”。
我周五看到 Shambaugh 的博客，并联系了他和一个似乎与 MJ Rathbun Github 帐户相关的电子邮件地址，但没有收到回复。就像当前人工智能代理的狂热中出现的许多故事一样，这听起来非同寻常，但考虑到网上提供的信息，我们无法知道 MJ Rathbun 是否真的是一个自主行动的人工智能代理，它是否真的写了一篇“热门文章”，或者它是否只是一个冒充人工智能的人。
周五下午，Ars Technica 发表了一篇标题为“在例行代码拒绝后，人工智能代理发布了一篇关于某人名字的热门文章。– 这篇文章引用了 Shambaugh 的个人博客，但其中引用了 Shambaugh 没有说或写的内容，但这些内容均出自他的博客。
例如，文章引用 Shambaugh 的话：“随着自主系统变得越来越普遍，人类意图和机器输出之间的界限将变得越来越难以追踪。建立在信任和志愿者努力基础上的社区需要工具和规范来解决这一现实。”但这句话并没有出现在他的博客中。Shambaugh 更新了他的博客，表示他没有与 Ars Technica 交谈，也没有说出或写下文章中的引述。
本文首次发表后，Ars Technica 文章的作者之一 Benj Edwards 表示：蓝天上有解释他负责人工智能生成的报价。他说他那天生病了，急于完成工作，不小心使用了 Shambaugh 博客的 Chat-GPT 转述版本，而不是直接引用。
– 该文章的文字是我们人工撰写的，该事件是孤立的，并不代表 Ars Technica 的编辑标准。我们的文章都不是人工智能生成的，这违反了公司政策，我们一直尊重这一点，”他说。
Ars Technica 的文章有两个署名，该文章在周五晚些时候被完全撤下。几个小时前，当我检查该链接时，它指向一个 404 页面。今天中午左右，我联系 Ars Technica 寻求评论，结果被引导至费舍尔的编辑注释，该注释于下午 1 点后发布。
– Ars Technica 不允许发布人工智能生成的材料，除非有明确的标签并出于演示目的而呈现。这条规则不是可选的，而且这里也没有遵循。”费舍尔写道。– 我们对这次失败感到遗憾，并向我们的读者道歉。我们还向 Scott Shambaugh 先生道歉，他的言论被错误引用了。”
Ars Technica 文章的另一位作者凯尔·奥兰 (Kyle Orland) 分享了有关 Bluesky 的编者注，并表示“在故事发表时，据我所知，我一直并将永远遵守这条规则。”
更新：本文根据 Benj Edwards 的声明进行了更新。
关于作者
伊曼纽尔·迈伯格 (Emanuel Maiberg) 对鲜为人知的社区和塑造技术、麻烦制造者和小事的流程感兴趣。给他发电子邮件 emanuel@404media.co
