人工智能会成为上帝吗？那是错误的问题。

很难知道该如何看待AI。

很容易想象聊天机器人和研究助理几乎使我们所做的一切都更快，更聪明的未来。同样容易想象一个相同工具从事我们的工作并颠覆社会的世界。这就是为什么根据您的要求，AI要么要拯救世界，要么摧毁世界。

我们要如何看待这种不确定性？

Jaron Lanier是数字哲学家，也是几本关于技术畅销书籍的作者。在这个空间中的许多声音中，Lanier脱颖而出。他几十年来一直在写有关人工智能的文章，他辩称，有些争议，我们谈论AI的方式既是错误又是故意误导的。

我邀请他去灰色区域关于AI的系列，因为他独一无二地对AI的技术方面和人类方面讲话。Lanier是一位热爱技术的计算机科学家。但是，他是一个人文主义者，他一直在思考技术对我们正在做什么，以及我们对这些工具的理解将不可避免地决定它们的使用方式。

我们讨论了我们应该询问AI的问题，为什么我们需要一个新的互联网业务模型，以及描述性语言如何改变我们对这些技术的看法 - 尤其是当该语言将AI视为某种类似上帝的实体时。

和往常一样很多在完整的播客中更多，所以请听并关注灰色区域在苹果播客，，，，Spotify，，，，潘多拉，或者您在哪里找到播客。每个星期一的新剧集都会下降。

这次采访已被编辑，以进行长度和清晰度。

当您说AI的整个技术领域是由几乎形而上学的断言所定义的，您是什么意思？

形而上学的断言是我们正在创造智能。好吧，什么是智力？人类的东西。整个领域是由艾伦·图灵（Alan Turing）的思想实验创立的，称为图灵测试，如果您可以欺骗一个人以为自己是人类，那么您也可以成为人类，因为还有什么其他测试？这足够公平。另一方面，除了支持舞台魔术师外，其他哪些科学领域完全是基于愚弄人们的？我的意思是，这很愚蠢。愚弄人们本身无济于事。没有生产力，除非您重新研究被愚弄的认知，否则没有洞察力。

还有另一种方法可以考虑我们所谓的AI的工作，也就是说，没有新实体，那里没有任何智能。人们之间有一种新的，有时是非常有用的人之间的合作形式。

如果我们遭受的伤害是什么？

这是一个公平的问题。谁在乎某人是否想将其视为一种新型的人，甚至是一种新型的上帝或其他类型？那怎么了？可能什么都没有。人们一直都相信各种各样的事情。

但是，就我们的技术而言，让我这样说，如果您是数学家或科学家，则可以以一种抽象的方式做自己的事情。您可以说，我正在促进数学。即使没有其他人甚至认为我做到了，也将是真实的。我写下了这一证据。但是对于技术人员来说，这不是事实。技术人员只有在有指定受益人的情况下才有意义。您必须为某人制作技术，并且一旦您说技术本身就是一个新人，就不再有意义。

如果我们犯了现在很普遍的错误，并坚持认为AI实际上是某种神，生物，实体或甲骨文，而不是一种工具，那么您就会定义它，这意味着这是一个非常重要的错误，对吗？

没错。当您将这项技术视为自己的受益人时，您会错过很多机会来改善它。我一直都在AI中看到这一点。我看到人们说：“好吧，如果我们这样做，那将通过图灵测试更好，如果我们这样做，这似乎更像是一个独立的头脑。”

但是，这些都是与经济上有用的目标不同的目标。它们与任何特定用户有用不同。他们只是这些怪异，几乎是宗教的仪式目标。因此，每当您将自己奉献给自己时，这意味着您并不是要努力使它变得更好。

一个例子是，我们故意设计了大型模型AI，以掩盖AI经过培训以帮助创造新实体的这种幻想的数据的原始人类来源。但是，当我们这样做时，我们使进行质量控制变得更加困难。我们很难进行身份验证并检测模型的恶意用途，因为我们可以说出意图是什么，以及它借鉴的数据。我们故意使自己以我们可能不需要的方式使自己失明。

从形而上学的角度来看，我真的想强调，我可以证明，其他任何人都不能，计算机是活着的，有意识或没有的，或其他任何人。所有这些东西总是将是信仰的问题。就是这样。但是我可以说的是，这种强调试图使模型看起来像是他们独立的新实体确实使我们蒙蔽了一些我们可以使它们变得更好的方式。

那么，包括人类灭绝世界的严肃人物在内的所有焦虑对您来说都是宗教歇斯底里吗？

令我疯狂的是这是我的世界。我与那些一直相信这些东西的人们交谈，越来越多的人认为，消灭人会很好，而AI的未来将是更好的，我们应该为AI的诞生戴一个可支配的临时容器。我听到很多意见。

等等，这是真实人民的真实意见吗？

很多人。就在前几天，我在帕洛阿尔托（Palo Alto）吃午餐，那里有一些年轻的AI科学家说他们永远不会生Bio Baby。当您患有心灵病毒时，您就会致力于人类的婴儿。但是，致力于未来的AI更重要。因此，让人类的婴儿从根本上是不道德的。

现在，在这种特殊情况下，这是一个年轻人，有一个想要一个孩子的女伴侣。我想的是，这只是一个非常古老的故事的另一种变化，即年轻人试图尽可能长时间地与他们的性伴侣推迟婴儿事物。因此，从某种意义上说，我认为这并不是什么新鲜事物，这只是古老的事情。但这是一种非常普遍的态度，而不是主要的态度。

我想说的是，超级人工智会会变成这种拯救我们的上帝的事，要么上传我们不朽或者解决我们所有的问题至少创建超级可保险。我不得不说，直接致力于制造AI系统的人，然后是与他们相邻的人之间的人之间有一定的比例。我自己的看法是，能够持怀疑态度，对他们所研究的技术有些无聊和不屑一顾的人倾向于改进它，而不是崇拜它的人。我看到很多不同的事情，而不仅仅是计算机科学。

我担心的一件事是，AI加速了总体数字技术，尤其是社交媒体已经开始的趋势，那就是使我们远离物理世界，并鼓励我们在虚拟世界中不断地表现自己的版本。由于它的设计方式，因此有一种习惯，即将其他人降低化身的习惯，这就是为什么在网上残酷和恶毒的原因，以及为什么在社交媒体上的人们开始变得太多以至于彼此之间变得难以理解的原因。您是否担心AI增压这些东西？我认为AI是这些趋势的潜在加速度吗？

这是可以争论的，并且实际上与[AI]社区在内部说话的方式是一致的，即如果您想使用的术语，那么一直在推动社交媒体的算法是AI的一种形式。算法的作用是试图根据给予人类的刺激来预测人类行为。通过将其放入自适应循环中，他们希望引起人们的注意和对平台的痴迷依恋。因为这些算法可以证明是因为我们可能认为是积极的事情还是我们可能认为是负面的事情是因为某些事情被驱动。

我将其称为奇偶校验的生活，这一观点可以说出有点是一个还是零，这并不重要，因为这是数字系统中的任意名称。因此，如果某人成为鸡巴引起人们的注意，那就起作用，就像他们提供救生信息或帮助人们改善自己一样。但是，好的山峰真的很不错，我不想否认这一点。我喜欢Tiktok上的舞蹈文化。YouTube上的科学博客作者达到了一个惊人的水平，依此类推。所有这些都非常非常积极的景点。但是总的来说，这种丧失真理和政治偏执以及任意创建文化群体之间的不必要的对抗等等，这确实在造成损害。

是的，更好的AI算法会使情况变得更糟吗？合理。它可能已经触底了，如果算法本身变得更加复杂，它将不会真正将其推动。

但是我实际上认为可以，而且我对此感到担心，因为我们非常想通过图灵测试，让人们认为我们的计划是人。我们搬到了这个所谓的代理时代在这里，您不仅是与事物的聊天界面，而且聊天界面一次会认识您几年，并获得了所谓的个性以及所有这些。然后想法是然后爱上这些。我们已经在这里和那里看到了这个例子，以及一代年轻人爱上了假化身的概念。我的意思是，人们谈论的是AI，好像它就像空中的酵母一样。就像，哦，AI会出现，人们会爱上AI头像，但事实并非如此。AI始终由公司经营，因此他们将爱上Google或Meta或其他任何产品。

广告模型在很多方面都是互联网的原始罪过。我想知道如何避免使用AI重复这些错误。这次我们该如何正确？什么是更好的模型？

在我看来，这个问题是我们时间的核心问题。我们这个时代的核心问题不是，我们如何能够更扩展AI？这是一个重要的问题，我明白了。大多数人都专注于此。处理气候是一个重要的问题。但是，就我们自己的生存而言，提出一种自我毁灭的文明商业模式在某种程度上不是我们目前最主要的问题和挑战。

因为我们这样做的方式，我们在互联网的早期阶段进行了这件事，应该是免费的，然后唯一剩下的商业模式就是为影响力付出代价。因此，所有平台对用户看起来很免费或非常便宜，但是实际上，真正的客户正在尝试影响用户。您最终以一种隐秘的操纵形式是文明的中心项目。

我们只能摆脱这么长时间。在某个时候，这让我们咬了，我们变得太疯狂了，无法生存。因此，我们必须改变文明的商业模式。如何从这里到达这里有一个谜，但我继续努力。我认为我们应该激励人们在未来的AI计划中投入出色的数据。我喜欢为AI模型使用的数据付费，并被庆祝，可见且知名。我认为这只是一个很大的合作，我们的合作者应该受到重视。

这样做有多容易？您认为我们可以还是将会？

关于如何做的仍然存在一些未解决的技术问题。我非常积极地研究这些，我相信这是可行的。整个研究界都致力于全球分布。而且我认为这将是更好的模型。更好的数据使得更好的模型，并且有很多人对此提出异议，他们说，不，这是更好的算法。我们已经有足够的数据在所有时间内都有足够的数据。但是我不同意这一点。

我认为我们是有史以来最聪明的人，我们将来可能会发生新的创意事物，而我们预见的是，我们目前构建的模型可能不会扩展到这些事情中。拥有一些开放的系统，人们可以为新的模型和新的方式做出贡献，这是一种更广阔的精神乐观方式，对深层未来进行思考。

是否有对您的恐惧，您认为我们可能会犯错的事情，这不是我们目前听到的内容吗？

天哪，我甚至不知道从哪里开始。我担心的一件事是，我们逐渐将教育转移到AI模型中，而且这种动机通常非常好，因为在地球上许多地方，不可能提出支持和培训足够的人类教师的经济学。在不断变化的社会中，许多文化问题使得使学校工作等等非常困难。有很多问题，从理论上讲，自我调整的AI导师可以以低成本解决很多问题。

但是随之而来的问题再次是创造力。您如何让在这样的系统中学习的人如何训练他们，以便他们能够超越系统的培训？有一种有趣的方式，您总是会重新阅读和重新组合任何AI系统中的培训数据，并且您可以通过不断的新输入以及此和该数据来解决该数据。但是我有点担心人们在封闭的系统中受过训练，这使他们比以前可能少一些，并且对自己的信心少一些。