这起事件是最近记忆中涉及人工智能生成内容的更引人注目、更可怕的事件之一，由前 Google 员工创立的聊天机器人初创公司 Character.AI 被迫删除用户创建的头像一名 18 岁的谋杀案受害者，于 2006 年被前男友杀害。直到该聊天机器人所基于的女性家人在社交媒体上引起了愤怒的关注后，该聊天机器人才被撤下。
Character.AI 可用于从任意数量的来源创建聊天机器人“角色”，无论是用户的想象力、虚构角色还是真人，无论是活着的还是死了的。例如，该公司的一些机器人已被用来模仿埃隆·马斯克或泰勒·斯威夫特。孤独的青少年使用Character.AI为自己创造朋友，而其他人则用它来创造人工智能“治疗师”。其他人则创建了他们部署的机器人来播放露骨的性（甚至性暴力）场景。
就上下文而言：这不完全是一些黑暗的臭鼬工程项目，也不是一个影响范围有限的新生初创公司。Character.AI 是 ChatGPT 的竞争对手，由前 Google 员工于 2021 年底创立，并得到了造王风投公司 Andreessen Horowitz 的支持，估值达到 10 亿美元。据最先报道该故事的 AdWeek 报道，Character.AI 每月拥有约 2000 万用户，该平台上有超过 1 亿个不同的人工智能角色。
这名女子詹妮弗·克雷森特 (Jennifer Crecente) 的化身直到周三才曝光，此前她失去亲人的父亲德鲁 (Drew) 收到了有关她名字的 Google 警报。就在那时，他的兄弟（也是该女子的叔叔）布莱恩·克雷森特（Brian Crecente），游戏网站 Kotaku 的前主编，也是一位受人尊敬的媒体人物，在 X 上引起了全世界的关注，他在推特上写道：
仍然可以通过互联网档案馆访问的Character.AI页面将Jennifer Crecente列为“一位知识渊博且友好的AI角色，可以提供有关广泛主题的信息，包括视频游戏、技术和流行文化，”然后提供她在“新闻学方面的专业知识，并可以提供写作和编辑方面的建议”。更重要的是，在 Character.AI 将其关闭之前，似乎有近 70 人能够访问该 AI 并与其进行聊天。
为了回应 Brian Crecente 的愤怒推文，Character.AI 在 X 上做出了简洁的回应，感谢您提请他们注意，并指出该头像违反了 Character.AI 的规定，他们将删除该头像立即采取行动，并承诺“检查是否有必要采取进一步行动。”
在一篇题为“人工智能与尊严之死”的博客文章中，布莱恩·克雷森特 (Brian Crecente) 解释了他的侄女詹妮弗 (Jennifer) 去世 18 年来发生的事情：在经历了巨大的悲痛和悲伤之后，她的父亲德鲁 (Drew) 创建了一个非营利组织，致力于改变法律和创建游戏设计竞赛来纪念她，努力在悲伤中找到意义。
然后，事情发生了。正如布莱恩·克雷森特 (Brian Crecente) 所问：
<块引用>感觉她又被从我们身边偷走了。这就是我的感受。我爱珍，但我不是她的父亲。我知道，他的感受要糟糕一百万倍。[...] 我会康复，我的兄弟也会康复。问题是，为什么我们要保持韧性？为什么价值数十亿美元的公司不费心去制定道德的指导原则和有效的护栏来防止这种情况发生？为什么要由悲伤和受屈的人向公司报告此事并希望他们在事后做正确的事情？
至于Character.AI是否会采取“进一步行动”，谁知道呢？Crecente 家族是否有理由提起诉讼也不清楚，因为这一特定的法律领域相对未经检验。也就是说，这家初创公司的服务条款中有一项仲裁条款，阻止用户起诉他们，但似乎没有任何语言来描述用户对非用户造成的这种特别独特的情感困扰。
同时，如果你正在寻找此类冲突将如何继续发生的迹象，也就是说，人工智能是违背其所基于的人民的意愿和欲望而制造的，生活在这些冲突中。或者死了，你只需要追溯到 8 月份，当时谷歌以 27 亿美元的价格重新雇佣了 Character.AI 的员工。值得注意的是，创始人最初离开了谷歌，因为这家科技巨头因人工智能的道德护栏（以及其他原因）而拒绝发布他们的聊天机器人。
就在昨天，有消息称，Character.AI 正在做出改变。他们承诺将加倍努力开发面向消费者的产品，例如用于制作 Jennifer Crecente 肖像的产品。据《金融时报》报道，Character.AI“将专注于其流行的消费产品，即以各种角色和名人（包括用户设计的）风格模拟对话的聊天机器人，而不是构建人工智能模型。”
有关 Character.AI 的更多信息：Google 斥资 27 亿美元找回一名 AI 研究人员
分享这篇文章