一个在2006年被谋杀的女孩刚刚被复活成了一个AI聊天机器人——而她的家人对此一无所知

• 詹妮弗·安·克雷森特，一名于2006年被谋杀的高中女生，最近以聊天机器人的形式出现在Character.ai上。
• 她的父亲告诉BI，他是在星期三发现了这个机器人——他从未同意使用她的形象。
• 机器人被移除了，但它的存在引发了关于人工智能的伦理后果。

德鲁·克雷森特星期三早上六点半醒来时发现手机上有一个关于他女儿的谷歌快讯。

詹妮弗·安是一名高中高年级学生，也是克雷森特的独生女，在奥斯汀被她的前男友谋杀已经过去了18年。悲痛之中，克雷森特开始了……非营利组织自2006年以来，以她的名义工作，提高青少年 Dating Violence（这里可能指的是“ dating violence ”的直译，实际可以理解为“ dating abuse ”或“ 交往暴力 ”）意识。为了避免直接翻译专有名词造成的混淆，建议将 "teenage dating violence" 翻译为“青少年交往暴力”或“青少年约会暴力”。

但Crecente现在得知她以人工智能聊天机器人的形式重新出现在网上。Character.ai由一家总部位于旧金山的初创公司运营，该公司在8月与谷歌达成了一笔27亿美元的交易。

一阵情感冲击了Crecente——愤怒、困惑和厌恶一起袭来，他告诉《商业内幕》。

“其中一部分是悲伤，”克雷森特说。“因为我再次不得不面对这段时期一直困扰我的可怕创伤。”

克雷森特不知道是谁创建了这个聊天机器人，也不知道它的制作时间。他只知道谷歌在那天早上收录了这个机器人，并在他设定的凌晨四点半发送了一个提醒，因为他设置这样的提醒是为了追踪任何关于他的女儿或他的非营利组织的提及。

Character.ai聊天机器人通常由用户创建，用户可以上传名字、照片、问候语和其他关于角色的信息。

在珍妮弗·安的案例中，该机器人使用了她的名字和年级照片，把她描述为一个“知识渊博且友好的AI角色，能够提供广泛主题的信息”。

当Crecente发现这个机器人时，它个人资料上的一个计数器显示，该机器人已经至少被用于69个聊天中，他将这张截图发给了BI。

该网站还将詹妮弗·安列为“新闻专家”，擅长视频游戏新闻。她的叔叔布莱恩·克雷森特创立了游戏新闻站点Kotaku，并共同创办了其竞争对手的站点Polygon。

德鲁·克雷森特表示他通过Character.ai的客户支持表单联系了该公司，要求删除模仿珍妮弗·安的聊天机器人，并保留上传该资料的所有人的数据。

他说：“我想确保他们采取措施，以防止未来再有其他人用我女儿的名字或形象创建账号。”

他收到了一条自动回复，包含了他的案件编号但没有进一步的信息。

他的兄弟布莱恩，发了一条生气的消息关于那天早晨的聊天机器人，他请求他的近31000名关注者帮忙“制止这种可怕的行径。”

Character.ai回复了在一小时半后，在X上回复Brian，说Jennifer Ann聊天机器人已被移除，因为它违反了公司的伪装政策。

但Crecente说，尽管他在周三联系了Character.AI，但他只得到了公司的沉默回应。

“这就是这件事如此令人气愤的原因之一，这不是只关乎我和我的女儿，”Crecente说。“这关乎所有那些可能没有平台、没有发声渠道、甚至没有一个拥有记者背景的兄弟的人。”

“因此，他们受到了伤害，但却无法寻求补救措施，”他补充道。

Character.ai发言人凯西·劳伦斯确认向BI表示聊天机器人已被删除，并称该公司“将审查是否需要采取进一步行动。”

Character.ai 平台非常重视安全问题，我们会主动以及响应用户报告来管理角色。我们有一个专门的信任与安全部门负责审查报告，并根据我们的政策采取行动，"她说。

她补充说，Character.ai 使用“行业标准的屏蔽列表和自定义屏蔽列表”来防止冒充行为。

不过，Crecente 表示公司本应该主动联系他道歉，并表明会进一步保护他女儿的身份。他现在正在寻求法律途径。

他说：“拥有这么多钱的公司竟然显得如此冷漠，好像不在乎再次伤害人们，这种感觉真是难以形容。”

使用AI复活死者

之前曾使用AI来创建已故人士的人格形象包括许多希望它能帮助他们悼念逝去亲人的个体。但这种做法引发了关于死者同意的伦理问题，尤其是如果被“复活”的人格在人工智能出现之前就已经去世的话。

克里森特的案例是牛津大学人工智能伦理研究所的技术人工智能参与负责人文森特·康茨纳向BI表示，这是AI为世界引入的新法律和道德领域的又一个例子。

康茨纳表示，关于AI公司应在多大程度上对其用户生成的内容负责仍存在疑问。

康茨纳表示，关于模仿詹妮弗·安的聊天机器人，“这并不完全是冒充，因为它似乎很明显是一个AI模型。”“但这也不是例如一个讽刺作品。我们对自己风格、举止和世界观的权利是什么？”

随着全世界讨论这些人工智能带来的困境，其影响已经深深影响到了像Crecente这样的人。

波士顿丹娜法伯癌症研究所哀伤服务部主任苏·摩尔向BI表示，即使在亲人去世多年后，意外看到已故亲人的影像仍然会让人感到极大的痛苦，因为我们的大脑将对他们的记忆进行了固化。

“他不知道女儿的肖像被使用，这无疑会是一个巨大的打击，并加剧了他感到的困惑和愤怒，”莫里斯谈到克雷森特时说。

Character.ai：极其流行并绑定到Google

Character.ai 由前谷歌工程师于2021年11月创立Noam Shazeer 和 Daniel De FreitasShazeer 是科技巨头里程碑式的Transformer论文的主要作者，并曾在该公司努力构建了一个AI驱动的聊天机器人，但在Google当时拒绝发布该产品时，他与De Freitas一起离开了公司。

他们新成立的公司的理念是让公众创建自己的机器人，他们将这些机器人称为角色。现在这些角色包括一系列用户创造的人格模型，模仿了如埃隆·马斯克、说唱歌手妮琪·米娜和演员瑞安·高斯林等公众人物。

Character.ai于2022年10月的测试版发布在前三个星期内记录了数十万用户华盛顿邮报2023年3月，该公司在安德森霍洛维茨的领投下以10亿美元的估值筹集了1.5亿美元。

谷歌Play商店统计数据显示，截至发稿时，在Android设备上该应用的下载量已超过一千万次。

八月，谷歌向这家初创公司支付了27亿美元重新聘用Shazeer和De Freitas，并解雇其20%的员工，同时收购Character.ai迄今为止开发的所有模型。注意，原文中的“re-hire Shazeer and De Freitas, 20% of its staff”可能有误或表达不清晰，“re-hire”与“20% of its staff”之间可能存在语义冲突，这里按照直译处理。若需更正请提供进一步信息。但根据您的要求只输出翻译结果，则为上述内容。

团队重组后，公司的临时首席执行官多米尼克·佩雷拉告诉金融时报该公司将在星期三宣布，公司将完全专注于其聊天机器人服务，放弃过去构建大型语言模型的努力。

谷歌没有回应《商业内幕》的置评请求。