苦难是真实的。人工智能意识不是。|techpolicy.press

今年2月3日，监护人跑了故事研究人员和副标题专家和思想家说，随着头条新系统的影响，AI系统可能会受到损害。故事伴随着演员史蒂芬·弗莱（Stephen Fry）的照片，这是唯一的签名人公开信您的普通读者可能有任何识别的机会。粗略的谷歌搜索表明，这封信是由一家名为的公司托管的助理，这是世界上首次应用AI意识研究组织的收费。监护人提到确实是关于由征服资助的原则的声明。它是由Couscium的共同创始人共同撰写的，大量签名来自与公司直接相关的人。

这封信规定了本文进一步阐述的目标：

组织应通过（i）防止有意识的AI系统的虐待和苦难的目标对理解和评估AI意识的研究优先考虑，以及（ii）了解具有不同能力和功能的AI系统中与意识相关的益处和风险。

一个人不需要质疑斯蒂芬爵士和其他已经签署或会签署这封公开信的认真性，怀疑这种对假设计算的福利的表达 - 道德患者 - 实际上是一个广告（实际上，有几个签署人是广告主管）。它遵循生命研究所未来的脚步公开信2023年3月，要求停下来培训LLMS比GPT-4强大的LLMS，我们知道这是如何解决的。像那封信一样，委员会的遗物似乎是试图在潜在的监管举措面前摆脱困境的尝试。其提供的原则是由研究组织本身自愿采用的，而不是在法律上执行。即使这是我们应该关心的原因，我们也应该相信技术公司自愿采用原则，就像我们应该相信Google对Google对Google的承诺一样多不要邪恶。

在一种情况下，这两个字母的情绪是在公众中引起公众对超级智能AI的恐惧，在一种情况下，对AI患者的苦难有同理心，而另一种情况则是同理心。但是策略是相同的。通过吸引我们的情感反应和我们的准备人格化，他们避免需要真正的论点来说服我们虚假的聊天机器人爆炸是一场真正的科学革命的前沿，而不是特定的过度夸张和超售基于变形金刚的模型的应用，其成功取决于广泛的扩展剥削性数据实践和资源密集型计算。当我们询问如何以及为什么喜欢的出版物监护人愿意充当诸如Conscium等服装的自我推广的无薪车辆，我们首先应该研究来自技术协调的慈善组织的大规模资金计划改变了相关的研究空间。但是，无论谁在出售这个故事，我们也需要问，为什么这么多人似乎愿意购买它呢？

解决这个问题是不，我们不生活在f％＃*ing仿真中，我们通过乔治敦法律中心的隐私和技术中心提供的迷你课程。正如其标题所暗示的那样，该课程是我们对所谓的回应模拟假设sophistrist构成一种说法，即可能甚至有可能，甚至有可能，我们都是已经仅在计算机模拟中进行有意识的算法过程。我们从模拟假设开始并不是因为我们认为这是技术 - oligarch设定的最小有害幻想之一，而是一个特别好的例子，是一个特别糟糕且日益普遍的错误。这是使我们在思维中使用的各种语言，分析和形式系统混淆与这种思维本身相混淆的错误。

算法或计算过程是我们在思维中使用的一种抽象机器，这是不是思维机器。这是我们应该从约翰·塞尔（John Searle）著名的教训中国房间思想实验。我们不应该将其视为生物自然主义的论点，而是应该提醒我们我们自己可以以两种不同的方式实施算法系统：作为我们思考的工具，或者无意识。不幸的是，这种区别在很大程度上有失去的危险。我们在本课程中讨论的无意识应用形式机械应用的一个例子是在模拟假设和所谓的长期主义的论点中滥用了贝叶斯主义。贝叶斯形式的方法对于在我们相对熟悉的情况下诊断和纠正概率推理中的错误非常有用，但是我们距离这些情况越远，这些方法可能会变得越没有。

不幸的是，贝叶斯主义当前的许多用途都将理论的正式机制应用于没有合理的方法来建立先前概率的方法，也没有合理的方法来获得经验数据来更新我们的信念。如果您认为将数字概率分配给您的总体意义上是可能的模拟，然后将该数字插入方程中，而其他数字代表您的驼背，则有什么意义技术先进的社会将希望进行此类模拟，或者有一天会有多少人文明。

这些当代的贝叶斯人对概率进行了一定的解释，这些概率通过个人的主观判断来确定“概率”，并将其变成或多或少地从稀薄空气中拉出概率的许可。他们最常见的方法之一称为“先前的启发”。这是向某些领域的一群专家询问他们对某物的可能性的猜测，并将这些猜测用作建立先验的一种方式。但是，只有有充分的理由认为他们正在咨询的专家是a）公正的，而b）实际上对您询问的事情有很好的了解，这将是一种合理的方法。在当前情况下，询问专家AI专业人员社区是否能够变得有意识才有意义，只有我们认为他们真正理解意识并且没有动力说服自己和我们，人工通用情报就在临近。

有很多非常充分的理由拒绝当代AI研究正在创造我们所做的真正聪明，意识更少的机器的说法不是在我们的课程中关注的部分原因是看到这些原因的力量需要熟悉数学，物理学或生物学上或多或少的技术词汇。因此，即使是最好的论点也可能会加剧错误的印象，即思考思维本质上与那些技术或科学词汇互动联系在一起，或者更糟糕的错误，即思考无非是执行正确的分析或理论框架。

但是，这是很多专家研究人员似乎忘记理论的事情。人们认为，通常通过使用理论框架来帮助，有时会被它们视而不见。理论是需要成为的事情理解可以很好地使用。而且，正如任何曾经试图教授理论的人都知道的那样，任何可以理解的理论框架也可能会被误解。此外，也可能会被滥用的理论框架。一个过于普遍的理论滥用是作为一个cudgel说服人们，例如自由意志或有意识的人类经验是一种技术，科学的事情，最好由专业人士决定。

无论在意识科学方面都可能取得重大进展，意识都不是也不是一个科学概念。查看意识的最顽强的计算方法，您会明白原因。例如，2023纸征一项研究人员认为，由一位委员会研究人员共同构建了在不久的将来建立有意识的AI系统的可行性的最系统的治疗方法。如果系统实现某种类型的计算，则必须有意识地有意识。但是当涉及到定义意识，这些计算功能主义者承认要处于困境中，而是选择给出各种相关术语的例子。

因此，这些计算理论家对意识的这些计算理论家承认，当试图掌握有意识和无意识过程之间的区别时，他们能做的最好的是说，好吧，好吧，好吧，好吧，你知道我们的意思是意识！虽然并非所有现有关于意识的理论家都如此明确，但任何意识理论都不是消除主义者也就是说，任何简单地否认意识是真实的理论都必须做出类似的手势。

我们需要提醒自己，研究人员使用的各种意识定义必须始终回到我们对意识意识的理论上理解和熟悉。我们需要提醒自己，无论我们选择的外部可观察到的行为是人类智力的指标，我们也可以毫不知一刻地实现相同的行为。想象实施正确的计算 - 人工智能模型可能导致意识的出现取决于基本和广泛的误解，即智力和意识是我们可以彼此独立理解的概念。但是，无论多么熟悉，我们都将智力归因于非意识系统，我们需要问自己，将智力视为一种意识之外的事物是否有意义。对于人类而言，聪明地做某事涉及我们对我们正在做的事情的认识，至少是可能性问我们为什么这样做。当我们聪明地使用可以使用的各种形式，技术或理论框架时，我们必须对无限期数量的非正式，非技术和非理论判断，以了解何时，如何，如何以及为什么特定在特定上下文中使用是合适的。由于这些原因，我们可以非常有信心在迅速降低互联网内容上进行的概率概括不是算法道德人格的道路。

更广泛的是，尽管一些专家研究人员会相信您，但我们的思想始终需要，并且总是需要对世界宽的意识和对世界的反应，我们的语言始终依赖于和将始终取决于与我们其他人的共同经历。我们对苦难的经历是我们了解有意识的经历。幻想聊天机器人的潜在未来苦难是否认历史上那一刻的艰难真理的一种方式，何时真正意识到如此多的人类现在持久的苦难需要真正的勇气。