《神鬼寓言》因人工智能读者摘要的冒犯性而陷入争议。发生了什么？

图书追踪应用 Fable将删除其流行的人工智能功能在该平台生成了一些冒犯种族、性别、性取向和残疾的读者摘要之后。

《寓言》年度阅读摘要 - 风格类似于Spotify 包装产品主管 Chris Gallello 表示，“旨在以一种“俏皮、有趣的方式”来庆祝读者的“独特性”，在发布到社交媒体的视频中。

蒂安娜·特拉梅尔 (Tiana Trammell) 是获得有争议摘要的人之一。当她打开年度概要时，她发现了一个概要，表明她作为一名黑人读者，更优先考虑白人作者。

—您的旅程深入黑人叙事和变革故事的核心，让主流故事喘不过气来。别忘了偶尔为白人作者露面，好吗？”摘要如下：。

其他用户发布了他们的《寓言》读者摘要，其中提到了他们阅读的残疾叙述— 可以赢得树懒的白眼 —并贬低 rom-com 读取为设置– 我的畏缩计的栏。 –

查看： 《今日美国》每周畅销书排行榜

作家丹尼·B·格罗夫斯 (Danny B. Groves) 总结称他为“多元化奉献者”然后继续说道，“你的书架是一个充满活力的万花筒，充满了声音和经历，让我想知道你是否有心情从异性恋、顺性白人的角度来看待！” 

这个评论让格罗夫斯感到困惑。他为自己致力于多元化阅读而感到自豪，但也让他想起了那些年他因为找不到代表他作为黑人同性恋者的书籍而没有读书的岁月。 

“你不会想到在阅读不多元化的读者群中看到这样的台词，”他告诉《今日美国》。– 他们不会说“你有心情接受同性恋、跨性别者、黑人女性的观点吗？”

《神鬼寓言》在“非常偏执”的读者总结后道歉，指责人工智能

在《神鬼寓言》账户上发布的两个视频中的第一个中，加洛洛指出了人工智能披露和选择退出的一些变化，并表示“非常偏执”的读者摘要让《神鬼寓言》团队感到震惊。加洛洛表示，《神鬼寓言》对人工智能的使用并不是为了给用户带来“惊喜或欺骗”。 

加洛洛表示，该公司已经实施了保护措施和攻击性语言过滤器：“显然，在这两种情况下，这一次都失败了，”他说。“所以我认为，作为一家公司，我们有点低估了需要做多少工作来确保这些人工智能模型……以负责任、安全的方式做到这一点。”

《神鬼寓言》社区负责人金伯利·马什·阿利 (Kimberly Marsh Allee) 在给《今日美国》的一份声明中表示，变革迫在眉睫：

“本周，我们发现我们的两名社区成员收到了人工智能生成的读者摘要，这对于我们公司来说是完全不可接受的，并且不能反映我们的价值观。我们对这一错误承担全部责任，并对发生的这种情况深感抱歉。我们已经听到了足够多的社区成员对某些功能使用生成式人工智能的反馈，因此我们决定从平台上删除这些功能，用户应该会在未来几天看到这些变化。”

特拉梅尔告诉《今日美国》，在这篇摘要之前，她对《神鬼寓言》的人工智能摘要没有任何疑问。她在 12 月收到的一封信让她感觉自己被视为一名读者：“你的书架上洋溢着对快乐、正义和个人旅程力量的追求。”但她认为应该进行更多的内部测​​试来确保这一点不会再发生了。

对于其他用户来说，人工智能的使用是症结所在。 

“我认为严重依赖人工智能是一种巨大的伤害，”一位Instagram 用户评论。“尤其是读者社区，因为我们很多人认为这对作者、编辑、读者和一般社区成员的整个阅读体验有害。”

格罗夫斯表示同意：“我认识到《神鬼寓言》是一个小团队，因此，他们可能无法跟上对每个人的读者摘要的审查。但如果是这样的话，那么就不应该有一种人工智能算法能够立即推出内容或生成可能造成伤害的输出。”

在第二个视频周五晚上发布的《神鬼寓言》表示，它将删除三个利用人工智能的关键功能。

“某个功能对社区造成任何伤害都是不可接受的，”加洛洛说。 

一些用户在 AI 犯错后考虑离开《神鬼寓言》

《寓言》是 Goodreads 的热门替代品，因其社交功能而深受喜爱，读者可以加入读书俱乐部并坦诚地讨论书籍。由于独特的社区功能，格罗夫斯表示他将继续使用《神鬼寓言》，但会优先考虑 Storygraph 等其他应用程序。 

“我愿意牺牲读者摘要，直到有一个团队能够更好地调节该人工智能系统的输出，”他说。 

在社交媒体上，一些用户表达了完全放弃该应用程序的愿望。 

特拉梅尔表示，截至发稿时，她对从《神鬼寓言》收到的电子邮件回复感到失望，其中引用了道歉视频，而且是在她的帖子获得关注后才发生的。第一个视频上线后，她停用了自己的帐户。

“我现在不想恢复与该应用程序的关系，”特拉梅尔说。“但对于选择留在网站上的人和将来可能注册的人来说，他们不需要受到这种影响，作为公司，他们有责任确保这种情况不会发生”不会发生。”

格罗夫斯还希望看到《神鬼寓言》利用这一事件作为催化剂来强调多元化的阅读。

–（如果）您的平台已成为人们遭受伤害的地方，因此，人们因为不想再次遭受伤害而逃离，那么也许可以冒险并调整您的重点和兴趣以及你的平台来集中更多不同的故事，”格罗夫斯说。

这个故事已经更新了更多信息。

15本我们迫不及待想读的书：2025 年最受期待的版本

克莱尔·马尔罗伊 (Clare Mulroy) 是《今日美国》的图书记者，她负责报道热门图书、与作者聊天并深入探讨阅读文化。找到她在 Instagram 上，看看她最近的文章或者通过 cmulroy@usatoday.com 告诉她您正在阅读的内容。