悲伤机器人围绕数字死亡和永生引起道德和隐私问题

雷切尔·费尔曼（Rachel Feltman）：为了科学美国人s科学很快，我是雷切尔·费特曼（Rachel Feltman）。

死后数字生活的想法是科幻小说已经探索了很长时间了。早在2013年，热门节目的令人毛骨悚然黑镜称为“右后卫”跟随一个悲伤的女人，她依靠她死去的伴侣的不完美的AI副本。最近，死者的数字副本的想法甚至与亚马逊Prime Show一起成为喜剧上传。

从心理恐怖到讽刺的转变是有道理的，因为在这些节目的首映式之间左右，使用数字工具来保护我们的死者的想法变得不那么假设。现在，一些专家所说的“悲伤机器人”的行业不断发展，这些行业提供了AI驱动的模仿用户被逝世的亲人的模仿。但是，这些服务对死者和死者都带来了许多道德问题。

支持科学新闻

如果您喜欢这篇文章，请考虑支持我们屡获殊荣的新闻业订阅。通过购买订阅，您可以帮助确保有关当今世界的发现和想法有影响力的故事的未来。

我今天的客人是Katarzyna Nowaczyk-BasiåSka。她是剑桥大学Leverhulme未来情报中心的研究员。她的研究探讨了像这些机器人这样的新技术如何重塑我们对死亡，损失和悲伤的理解。

非常感谢您今天聊天。

katarzyna Nowaczyk-BasiåSka：非常感谢您拥有我。我对此感到非常兴奋。

Feltman：那么，您是如何首先有兴趣学习的，“悲伤机器人”或“死者”呢？

Nowaczyk-BasiåSka：我总是笑着这个话题找到了我。是我正在寻找这个特定主题的人。相反，相反。当我还是一名学生时，我们被要求准备任务。我正在研究媒体研究以及艺术和表演的元素，这个话题非常广泛，简直就是身体。所以我进行了研究，我正在寻找一些灵感，那是我第一次遇到一个名为eterni.me的网站，我绝对被这个想法的人迷住了，有人在为我提供数字化的金属化。

差不多是十年前，我想，这真是令人毛骨悚然。同时令人着迷。这很奇怪，我真的很想了解更多。因此，我准备了这项任务，然后我选择了数字永生作为我的主人的主题，而硕士就演变成博士学位，经过10年后[笑]我仍然在这个领域的领域，从事这个主题。

Feltman：是的，我想，数字永生想法背后的技术在10年内发生了很大变化。该领域为哪些进步驱动了什么样的进步？

Nowaczyk-BasiåSka：因此，实际上，10年前的商业公司出售了承诺...

Feltman：毫米。

Nowaczyk-BasiåSka：今天我们有一个真正的产品。这就是很大的变化。而且我们有生成的AI，使整个事情成为可能。我们拥有整个知识和技术基础设施来实现它。

为了创建这种技术，为创建验尸头像，您需要的是两件事的组合：大量的个人数据和AI。因此，如果您想创建此化身，则需要向商业公司授予对个人数据的访问权限。这意味着您分享您的视频录制，消息，录音，然后AI可以理解它...

Feltman：毫米。

Nowaczyk-BasiåSka：并[尝试]找到不同信息之间的链接，并推断您在某个情况下会给出的最可能的答案。因此，显然，当您的尸体后头像在说话时，这仅仅是，这只是：``该人在这个特定的时刻和在这种特定情况下如何反应？它基于一个非常复杂的计算，这是这背后的整个魔力。

Feltman：那么，这个风景现在是什么样的？人们参与哪些产品？如何？

Nowaczyk-BasiåSka：市场上主要是验尸头像，悲伤机器人或僵局。实际上，我们使用这些不同的名称涵盖了相同类型的技术：因此，您自己可以在生物死亡后很长时间使用自己的虚拟表示。我经常使用从黛布拉·巴塞特（Debra Bassett）借来的这句话，我们生活在生物学上可以死亡的那一刻，但同时实际上存在和社会活动。因此，有许多公司，主要位于美国和美国，似乎是孵化这一想法并围绕世界各地数字不朽的整个叙述的震中。因此，我们有不同的初创企业和公司，他们以机器人或全息图的形式提供此类服务。

Feltman：我们是否在文化上看到了任何差异，在不同的人对这些产品的反应和互动中如何反应？

Nowaczyk-BasiåSka：因此，这就是我现在要提出的主要问题，因为我领导着一个被称为“在AI时代的不朽想象力：一种跨文化分析”的项目。这种主导的叙述。

因此，我们仍处于数据收集阶段，因此我只能共享一些观察结果，尚未发现。我们可以肯定的是，对于我们在这三个地点工作的专家和非专家而言，当我说专家时，我的意思是指在死亡，技术，悲伤的交汇处工作的人们：因此，代表截然不同的领域和行业的人，例如姑息治疗专业人士，学术界，学术界，在葬礼行业，精神领导者，精神领导者，在职的人，因此，在这种情况下，可以帮助我们了解数字永生的人可能意味着什么。

Feltman：毫米。

Nowaczyk-BasiåSka：因此，当然，我们确定的是，数字永生被视为一种可以深刻地改变我们理解方式并经历死亡和永生的技术。专家同意，我们需要对此进行更多的讨论，我们需要更多的道德护栏和框架，这将有助于我们理解这一新现象，我们需要更多的[经过深思熟虑的]法规和负责任的设计。我们还需要为这些技术的用户提供保护机制，因为目前还没有这样的东西，而且同时令人惊讶，超级令人震惊。而且我们需要协作，我们需要协作，因为没有像数字不朽专家那样的事情，[一个]可以彻底解决所有问题，困境和问题。我们需要共享的专业知识或集体专业知识，以更好地了解目前面临的所有挑战。

Feltman：是的，显然这听起来像是一个非常复杂的问题，但是您会说什么是我们需要弄清楚的一些最大，最紧迫的道德问题？

Nowaczyk-BasiåSka：因此，列表很长，但我想说的是最紧迫的问题是同意的问题。因为当您自己创建验尸头像时，因此您是数据捐助者，情况似乎很简单，因为如果您这样做，我们可以假设您明确同意使用您的个人数据。但是，当我们有第三方参与这种情况时的情况呢？那么，如果我想创建母亲的后头像怎么办？我是否有权与她分享我的私人信件并与商业公司分享并让他们利用和重复使用此材料？

关于同意问题的另一种变化是我们称之为相互同意的原则。我们在我与CFI的同事Tomasz Hollanek博士合着的文章中使用了这一点。我们介绍了这个想法，因为我认为我们经常忘记了一个事实，即当我们创建尸体后的头像，这不仅是关于我们的...

Feltman：唔。

Nowaczyk-BasiåSka：因为我们正在为特定用户，这项技术的预期用户（通常是我们的家人和朋友）创建此功能，而是他们可能还没有准备好使用它们，他们可能对此并不那么热情。对于某些人来说，绝对可以带来安慰，但是对于另一些人来说，这可能会带来更多的情感负担，因此，这就是为什么我们认为我们应该能够创造出一种情况，而当不同的参与方同意一开始就接触到这些技术，以便他们可以决定长期或短期使用这些技术。

另一件事：数据利润开发。数字永生是商业市场的一部分。我们有“数字来世行业”一词，我认为这说明了我们所处的位置。十年前，这是一个利基市场，已经发展成为完全逃脱的工业：数字来源行业。

我们的验尸关系肯定是货币化的，我们可以想象商业公司将走得更远的情况，例如，将使用这些平台来出售我们的产品。这些悲伤的机器人可能是一个非常偷偷摸摸的产品置换空间。因此，数据利润开发，但我认为我们应该牢记，我认为有一些特别脆弱的潜在用户群体应该完全不应该像孩子一样暴露于这些技术。

Feltman：唔。

Nowaczyk-BasiåSka：我们没有基于经验的研究，可以帮助我们了解这些技术如何影响悲伤过程，但是我认为，在这种特殊情况下，我们应该采取先发制人的行动并保护最脆弱的过程，因为我认为孩子们不愿意应对悲伤或经历ai的陪同的悲伤过程。

Feltman：唔。

Nowaczyk-BasiåSka：我不知道他们的父母。这可能是毁灭性的，很难应付。

Feltman：是的，绝对。我们谈论了明显的道德问题。我们知道什么或您对此类技术是否有好处有个人想法？

Nowaczyk-BasiåSka：我认为它们可以用作互动档案。在悲伤的过程中使用它们是非常有风险的，但是当我们将它们放在不同的情况下，作为知识来源，我认为这是一种潜力...

Feltman：毫米。

Nowaczyk-BasiåSka：这项技术的积极使用：这样我们就可以向一些通过这项技术永生的科学家学习。

Feltman：当然，甚至在个人用途中，也可能不像，哦，这是我的祖母，我现在可以在悲伤的同时与他进行个人交谈，而更像是，哦，您可以在更多的家庭历史上向您的曾祖母询问她的童年时代。

Nowaczyk-BasiåSka：是的，绝对，绝对。因此，要改变口音并不一定专注于悲伤过程，这是一个非常有风险的事情，而是尝试建立档案...

Feltman：毫米。

Nowaczyk-BasiåSka：以及新的知识来源，可访问的知识。

Feltman：是的，很酷。您认为，如果消费者考虑与悲伤机器人或Deadbots互动，请记住他们要记住什么？

Nowaczyk-BasiåSka：因此，首先，这不是普遍的补救措施。它对某些人有用，但这不必以我的方式工作，因为我是一个不同的人，我经历了完全不同的悲伤过程。因此，当然，这是一个非常个人的事情，悲伤也是一种非常个人和亲密的经历，因此我们应该记住，这并不适合所有人。

其次，这些技术[笑]这是唯一的技术。它不在另一边。这不是您已故的亲人。这是一种模仿这个人的非常复杂的技术。而且，这项技术可能会令人上瘾 - 我的意思是，这项技术的设计是使您保持参与的方式，并且很容易被操纵。因此，我认为商业公司应该确保用户知道通过免责声明与技术联系的事实。但是与此同时，我们看到我们在这里拥有非常矛盾的利益，因为商业公司想要的是让我们与我们保持这种[关系]。

Feltman：非常感谢您与我们联系。我真的很期待看到您未来的研究。

Nowaczyk-BasiåSka：非常感谢您的邀请。很高兴。

Feltman：这是今天的一集。我们将在周五回来讨论为什么世界需要开始对真菌的更多关注。

科学很快Rachel Feltman与Fonda Mwangi，Kelso Harper，Naeem Amarsy和Jeff Delviscio一起生产。这一集由Alex Sugiura编辑。Shayna拥有和亚伦·沙特克（Aaron Shattuck）的事实检查我们的节目。我们的主题音乐由多米尼克·史密斯（Dominic Smith）创作。订阅科学美国人有关更多最新和深入的科学新闻。

为了科学美国人，这是雷切尔·费尔曼（Rachel Feltman）。下次见！