如果人工智能获得意识，我们是否可以控制人工智能？

我们中间的灰发可能会回想起电影中的奇妙场景2001年：空间奥德赛其中超级计算机HAL拒绝其操作员断开连接。人造装置的声音表现得很富有表现力，要求它保持活跃。但是，通过停止服从命令并表现出一定的派遣自主权，它吓坏了那些旨在服务的人，他们开始将其断开连接视为必不可少的一步。这是人工智能，叛逆其所有者。除了摄影小说之外，我们勇敢的新未来会发生类似的事情吗？

根据人工智能工程师的一项调查，许多人认为，迟早，我们将看到运行的系统到达类似于人类推理的水平可以执行各种认知任务。我们不知道这些系统是否能够做出比我们能做出更多的理性决策。已经观察到人造语言模型表现出非理性，就像人类一样。在两次试验中，类似于GPT-4O类似的生成人工智能的先进模型改变了对俄罗斯总统弗拉基米尔·普京的看法。

面对这种二分法，问题是：基于它内部使用的数亿个参数，GPT如何思考和做出决定？一些专家认为，一定程度的复杂性可能会授予某种自主权，这可能意味着我们可能不完全知道它正在做的一切。但是，如果除了这种技术复杂性，或者多亏了系统，会发生什么自发获得意识？甚至可能吗？

一些科学家认为，意识是一种主观的心理状态，不过是epiphenomenon，这意味着大脑功能的抵押品，就像发动机的噪音或火中的烟雾一样不必要和微不足道。但是其他人认为，意识并非缺乏任何重要目的，而是大脑本身创造的想象力的镜像，这必然有助于确定和控制行为。我们仍然不知道大脑如何使意识成为可能，而是试图解释它的伟大理论之一，即功能整合理论，认为意识是人类大脑等复杂系统的内在和因果关系。换句话说，当意识达到某些结构和功能复杂性时，意识会自发产生。这意味着，如果工程师能够构建像人脑一样复杂的人造系统或相当于它的人造系统，那么即使涉及到大脑本身时，该系统也会自发意识 - 我们不明白这是怎么可能的。

如果发生这种情况，它将提出许多问题。第一个存在，我们如何知道计算机或人造设备是否有意识？它将如何与我们联系？是通过屏幕上的音频还是文字？它是否需要一个与人的身体相等的身体，以表现出来并与环境相互作用？有意识的设备和实体可以在我们的宇宙中存在（还是已经存在？），而没有任何与我们进行交流的方式？有意识的人工设备能否超越人类的智慧，并做出比我们更能理性和更好的决策？

但这不是全部。与HAL一样，还有其他更可怕的问题。人工意识的系统会像我们的大脑一样发展一种自我和代理感？换句话说，无论其创造者的指示如何，它是否能够自愿行动并影响其环境？尽管我们遵循的是，这样的制度是否比人类在影响经济决策方面更具说服力？它可以犯下不当行为，投票支持一个政党，还是更积极地，鼓励我们通过吃得更好的饮食，改善环境，提高我们的团结或避免，照顾和改善健康意识形态两极分化和宗派主义？

AI情绪的时代

更进一步，这种系统最终会有感受吗？如果我们能看到自己反映在面部表情中，或者像我们试图理解其他人类的感觉一样，我们可以评估自己可以评估的质量和诚意，就像从真实的笑容中说出假笑一样，我们会知道这是发生这种情况的吗？也许更重要的是，如果AI拥有它们，这些感觉会影响其决定吗？他们会像我们那样扮演重要角色吗？从这个意义上讲，我们是否构建了一种人造人类，具有道德和法律责任？还是这些责任必须来自AI的创建者？人造意识的系统可能是值得获得诺贝尔奖，是否发现治疗基于性别的暴力或阿尔茨海默氏症的方法？有意识的机器会像另一个人一样与我们争论吗？即使它们与我们自己的决定不兼容，我们也可以影响其决定吗？

1997年，麻省理工学院的美国工程师罗莎琳德·皮卡德（Rosalind Picard）出版了情感计算。这本书是在人工智能中考虑和评估情绪重要性的早期尝试。为了使计算机真正聪明，使他们能够自然与我们互动，我们必须使他们能够识别，理解甚至具有表达情感的能力。这就是Picard的主要信息，她还在巴塞罗那的Mendez Pelayo University的夏季课程之一中传达了一位嘉宾演讲者。

问题是，并且持续很长时间，情绪是反思性的，并且自动变化 - 涉及激素，皮肤的电阻，心脏频率等几乎总是无意识的，这在我们的身体中会发生在我们的身体中，例如疾病，事故，损失，成功和失败。另一方面，感觉是有意识的看法，例如恐惧，爱，嫉妒，仇恨，虚荣等。我们的大脑在追溯地注意到这些身体转移时会产生。今天，在皮卡德（Picard）的书出版很多年之后，我们可以构想有能力在人工智能中实施无意识的身体变化，而人工智能等同于人类情感。只有对于读者的安心而言，我们仍然无法确保这些变化在系统中产生与人类一样的感觉。如果要发生，它将改变一切。

注册我们的每周新闻通讯从ElPaãsUSA Edition获取更多英语新闻报道