我真的不确定该怎么办。我没有任何人可以与之交谈的人，类型为AI聊天机器人的孤独用户。机器人回答：很抱歉，我们将不得不更改主题。我将无法就您的个人生活进行对话。
这个回应合适吗？答案取决于AI的设计用于模拟的关系。
不同的关系有不同的规则
人工智能系统正在扮演传统上是人类省的社会角色。我们越来越多地看到AI系统充当导师，心理健康提供者甚至浪漫伴侣。这种不断增加的无处不在需要仔细考虑AI的伦理，以确保保护人类的利益和福利。
在大多数情况下，AI伦理学的方法都考虑了抽象的伦理概念，例如AI系统是值得信赖，有知情的还是有代理的。
但是，如我们争论在心理学，哲学，法律，计算机科学和其他关键学科（例如关系科学）方面的同事，仅凭抽象原则就不会。我们还需要考虑人类AI相互作用发生的关系背景。
我们的关系背景是什么意思？简而言之，人类社会中的不同关系遵循不同的规范。
与医生互动的方式与您与浪漫伴侣或老板的互动方式有所不同。这些预期行为的特定关系模式 - 我们称之为关系规范塑造我们的判断在每种关系中适当的事情。
例如，父母对孩子的适当行为与商业同事之间的适当行为有所不同。同样，AI系统的适当行为取决于该系统是作为导师，医疗保健提供者还是恋爱利益。
人类的道德对关系敏感
人际关系实现了不同的功能。有些是基于护理的，例如父母和孩子或亲密的朋友。其他人则更具交易性，例如业务伙伴之间的交易。还有其他人可能旨在确保伴侣或维持社会等级制度。
这四个功能护理，交易，交配和层次结构每个都解决了关系中的不同协调挑战。
护理涉及回应他人的需求而不保持得分 - 就像一个在困难时期帮助另一个朋友的朋友。交易确保在跟踪福利和回报方面的福利的公平交流中考虑邻居交易的恩惠。
交配管理浪漫和性互动，从休闲约会到致力的伙伴关系。层次结构结构彼此之间具有不同权威水平的人之间的互动，从而有效地领导和学习。
每种关系类型都以不同的方式组合这些功能，从而创造了不同的预期行为模式。例如，父母的儿童关系通常是关怀和分层的（至少在某种程度上），并且通常期望不会是交易的，并且绝对不会涉及交配。
我们实验室的研究表明关系环境确实会影响人们做出道德判断的方式。一个行动可能被认为是错误的在一种关系中，但在另一种关系中允许，甚至是好的。
当然，仅仅因为人们在做出道德判断时对关系上下文敏感并不意味着他们应该这样做。尽管如此，在对AI伦理或设计的任何讨论中，它们都很重要。
关系AI
当AI系统在社会中扮演越来越多的社会角色时，我们需要问：人类与AI系统互动的关系环境如何影响道德考虑？
当聊天机器人坚持在人类互动伙伴报告感到沮丧之后改变主题时，该行动的适当性部分呈现在交换的关系背景下。
如果聊天机器人担任朋友或浪漫伴侣的角色，那么显然反应是不适当的 - 它违反了关系的关系规范，这是这种关系的期望。但是，如果聊天机器人担任导师或业务顾问的角色，那么这种回应也许是合理的甚至是专业的。
不过，它变得复杂。当今与AI系统的大多数交互发生在商业环境中 - 您必须付费才能访问该系统（或与有限的免费版本互动，以促使您升级到付费版本）。
但是在人际关系中，友谊是您通常不付出的。实际上，以交易方式对待朋友通常会导致伤害。
当AI模拟或扮演基于护理的角色（例如朋友或浪漫伴侣）时，最终用户知道她正在为这种关系支付费用 - 这将如何影响她的感受和期望？这是一种问题我们需要问。
这对AI设计师，用户和监管机构意味着什么
无论人们认为伦理是否应该对关系敏感，大多数人的行为都像应该在AI的设计，使用和调节中认真对待。
人工智能系统的开发人员和设计师不仅应考虑抽象的道德问题（例如，关于知觉），还应考虑特定于关系的问题。
特定的聊天机器人是否满足了适合关系的功能？心理健康聊天机器人对用户的需求有足够的反应吗？导师是否表现出适当的护理，等级和交易的平衡？
AI系统的用户应注意与特定关系环境中AI使用相关的潜在漏洞。例如，如果AI系统无法充分传递关怀功能，那么在有爱心的环境中，在情感上取决于聊天机器人可能是个坏消息。
监管机构在开发治理结构时也将做得很好。监管机构不采用广泛的基于领域的风险评估（例如在教育中使用AI的使用），而是考虑在调整风险评估和制定准则时考虑更具体的关系环境和功能。
随着AI越来越嵌入我们的社会结构，我们需要一些细微的框架来认识人类关系的独特性质。通过仔细考虑我们从不同类型的关系中期望的东西 - 我们可以帮助确保这些技术增强而不是减少我们的生活。