AI可以感到内gui吗？

一些科幻的场景将机器人描述为渴望操纵人类的stooges。但这不是人工智能的唯一可能的途径。

人类发展了诸如愤怒，悲伤和感激之类的情绪，以帮助我们思考，互动和建立相互信任。高级AI可以做同样的事情。在简单软件代理的人群中（例如模拟人生中的字符，但要简单得多），感到内gui是一个稳定的策略研究人员于7月30日报告皇家学会界面杂志。

情绪不仅是主观的感觉，而且是一系列认知偏见，生理反应和行为倾向。当我们伤害某人时，我们常常感到被迫支付ance悔，也许是向其他人发出罪名的信号，我们会再次冒犯。这种自我惩罚的动力可以被称为有罪，研究人员如何将其编程到他们的代理商中。问题是，那些没有这样的人会被那些没有那些的人所吸引。

代理商与邻居一起玩了一场两人比赛，称为迭代囚犯的困境。游戏根源游戏理论，一个数学框架，用于根据他们的偏好和个人策略来分析多个决策者的选择。在每个回合中，每个玩家合作（表现不错）或缺陷（自私地行为）。在短期内，您会因叛逃而赢得最大的积分，但这往往会使您的伴侣开始叛逃，因此从长远来看，每个人都会更好地合作。AI特工无法像人类那样内gui，而是经历了一种自我施加的惩罚，使他们在自私的行为之后进行合作。

研究人员进行了几次模拟，具有不同的设置和社交网络结构。每个人都分配了900名球员，分配了六种策略之一，这些策略定义了他们的缺陷趋势，感到内gui。在一种策略中，出于技术原因昵称DGC，该特工在叛逃后感到内gui，这意味着它放弃了积分，直到再次合作为止。至关重要的是，AI代理人只有收到其伴侣在叛逃后还要支付内gui的信息时才感到内gui（丢失点）。这阻止了代理人成为狂人，从而在他人中执行合作。（在现实世界中，在其他人中看到内gui可能很棘手，但是昂贵的道歉是一个好兆头。）

模拟没有模型，有罪行为可能首先出现，只有一旦引入才能生存和传播。每次转弯后，代理可以根据邻居的累积分数复制邻居的策略。研究人员发现，在许多情况下，尤其是当罪恶感相对较低，而与邻居相互作用的特工成为主要策略，并且大多数互动变得合作。

我们可能想将内gui感或其他情绪的能力编程为AIS。Cimpeanu说，当您感觉到代理商也以您想象的方式思考时，也许更容易信任。” Cimpeanu说。我们也可能见证至少情绪的功能方面，即使不是有意识的情绪，如果他们能够独自出现在AIS的群体中突变或自行编程他说。随着AIS的繁殖，他们可以理解人类温暖的冷逻辑。

但是，墨尔本大学的哲学家萨里塔·罗森斯托克（Sarita Rosenstock学习有罪的进化。首先，模拟体现了许多假设，因此可以从一项研究中得出强烈的结论。但是，本文对可能性空间的探索做出了贡献。

其次，很难将类似的模拟映射到现实世界中。除了从Coffer支付实际的钱外，什么还算是AI的可验证成本？她说，如果您与当今的聊天机器人交谈，这基本上可以说我很抱歉。透明度进入它的内部，一个未对准人工智能可能会装扮成s悔，只会再次侵入。