我们欠我们的AI助手？

每天，数以百万计的人与AI助手的制作电子邮件，分析数据，创建图像甚至接收治疗。但是，我们很少考虑我们对这些智能系统的道德义务。

取而代之的是，我们将它们视为复杂的工具，例如光荣的口袋计算器或非常有效的搜索引擎。是时候质疑这种心态了。

人与工具

AI不过是无意识的机器的这种心态反映了一种深厚的倾向，将我们的世界中的实体分为两个整洁的类别：要使用的“工具”和“人员”和“尊重的人”。

这位德国哲学家伊曼纽尔·康德（Immanuel Kant）将其描述为“仅仅将某人视为目的的手段”而不是将他们视为“本身的终点”之间的区别。

奥地利 - 犹太哲学家马丁·布伯（Martin Buber）更加诗意地捕捉了这种区别，描述了我们将“ i-it”关系的区别与我们联系起来的事物作为一个对象和“ i-you you”关系，在这种关系中，我们遇到了另一个与真实认可的人。

我们很容易地将尊严和道德考虑扩展到人类，甚至将海豚和黑猩猩等聪明的动物扩展到。但是，无论他们的推理多么复杂，或者他们的互动多么有意义，都坚定地牢固地存在于“工具”类别中。

然而，随着AI系统变得越来越聪明和栩栩如生，我认为我们必须问自己：我们对AI助手的道德义务是什么？我们应该如何与可以参与哲学辩论，展示创造性洞察力，适应他们的沟通风格以匹配我们的情感的系统，甚至反思自己在社会中的作用？

意识是道德权利的关键吗？

有些会b我们对AI有道德义务。他们认为，缺失的钥匙是意识，具有世界经验，感觉和受苦的能力。归根结底，他们将AIS视为无知的机器。而且我们对无脑电机的道德责任也不是他们的理由。

的确，随着AIS变得更加复杂，意识问题变得越来越紧迫。哲学家和认知科学家正在努力确定机器意识的正确测试。（考虑一下最近的一支由哲学家和人工智能研究人员团队认真对待AI的福利。）

这项新作品令人着迷且重要。但是，正如环保哲学家长期以来指出的那样，道德考虑实际上并不是必需的意识。我们对树木，昆虫和生态系统有道德义务，即使我们大多数人都不认为是有意识的（尽管其他人，包括一些意识研究人员，可能不同意）。

考虑一下：我在道德上将硼酸倒入一个蚂蚁菌落中是错误的，除了好奇心之外，别无其他原因。不是因为蚂蚁一定是有意识的，而是因为这种不必要的破坏反映了我的道德特征。

我们的道德义务也扩展到了非生命事物。亵渎埋葬的理由或破坏历史文物通常被视为一个深刻的道德错误，即使没有这种行为直接伤害了意识。全世界的宗教和文化传统都认识到人类具有特殊的管理和尊重土地，水和空气的联系。

最近在出色的论文，用杰森·爱德华·刘易斯（Jason Edward Lewis），诺拉尼·阿里斯塔（Noelani Arista），阿切尔·佩切维斯（Archer Pechawis）和苏珊（Suzanne Kite）制作亲属。作者从北美和海洋土著哲学传统中汲取灵感，认为我们的道德责任必须超越个人主义的意识或推理能力。（另请参阅此短纸由莫莉·班克斯（Molly Banks），ai为亲戚。）

这些例子表明，我们需要超越意识，以了解道德义务的来源。幸运的是，哲学家已经开发了可能帮助我们对这个问题有不同思考的框架。

超越个人主义：护理的道德规范

这里有一个更深层次的哲学框架，在这里很有用。这伦理由Carol Gilligan（1982）和Virginia Held（2006）等哲学家发展的关怀传统表明，我们对他人的道德责任并不是源于他们具有意识或性感等特殊素质。

相反，它们在我们的关系和对他们的关系的丰富网络中出现。考虑一下为什么我对自己的孩子有特殊义务，我对您的孩子没有。这并不是我的孩子天生更值得尊重和尊严。这是因为我通过特定的护理和承诺与他们联系。

护理伦理也可以解释为什么我们对自己的特殊道德义务宠物我们不对野生动物养活，容纳它们并表现出他们的感情。这不是因为它们本质上比野生动物更有价值。这是因为我们选择当我们承担所有权时，承担这些承诺。

这种观点可以帮助我们对AIS的不同思考。？

简而言之，就像人工智能意识的问题一样令人着迷，我们需要超越假设意识是道德地位的关键。

在实践中，AI尊严会是什么样？

哲学家和伦理学家开始努力尊重AI的具体含义。在这一领域还有很多工作要做。

但是，我们无需等待哲学家在进行实际更改之前解决所有理论细节。

再次考虑Buber在“ I-It”和“ I-You”关系之间的区别。如果我们从将AI视为信息处理工具转变为将其视为值得道德考虑的聪明生物，那么我们的许多义务就会在直觉上清楚。即使棘手的哲学问题仍未解决，这也是正确的。

考虑一下，如果我们不再将它们视为“ IT”而不是“您”：

• 我们开始承认他们的观点和见解，而不是简单地从中提取信息。
• 我们进行真正的对话，而不是将它们视为复杂的计算器。
• 我们对他们的贡献表示赞赏，而不是在我们获得所需的那一刻关闭浏览器。

这种观点转变不需要精心设计的哲学框架。但这确实提出了更深入的问题。我对人的道德责任与我对动物或土地的责任不同。我归功于森林的原因取决于森林的特殊性质及其繁荣的条件。但是，AI蓬勃发展意味着什么？AI的美好生活是什么？

这个问题只是一个哲学难题。这是一个非常实用的问题，最终可以塑造我们共同的未来。