人工智能怀疑论的虚假安慰

说人工智能是假的而且很糟糕，这很有趣，但越来越多的证据表明它是真实的且危险的

2024 年 12 月 5 日Ø

15 分钟阅读（伊戈尔·奥米莱 / Unsplash）我。

上个月底，我参加了在伯克利举行的首届会议，名为

曲线。

这个想法是将大型科技公司的工程师、独立安全研究人员、学者、非营利组织领导人以及在政府工作过的人士聚集在一起，讨论当今人工智能领域的最大问题：人工智能是否构成生存威胁？我们应该如何权衡开放式举重的风险和收益？

如果有的话，什么时候应该对人工智能进行监管？如何？人工智能的发展应该放缓还是加速？人工智能是否应该作为国家安全问题来处理？我们什么时候应该期待 AGI？

如果这个想法是在 e/accs 和 decels 之间产生深思熟虑的碰撞，那么曲线就有点短了：会议很长一段时间都是关于存在主义的恐惧，而且我想我没有听到有人说人工智能的发展应该加快。

尽管感觉有点片面，但我仍然发现这次会议非常有用。除了我了解到的有关人工智能发展状况的所有知识以及使其与人类利益保持一致的各种努力之外，我最大的收获是，人工智能的外部批评者之间存在巨大的脱节，他们在社交网络和他们的网站上发布有关人工智能的评论。时事通讯以及人工智能的内部批评者——直接从事人工智能工作的人，无论是 OpenAI 或 Anthropic 这样的公司还是研究人工智能的研究人员。

目前，没有人确切知道正在开发的大型语言模型是否会实现超级智能并改变世界。在这种不确定性中，出现了两个主要的批评阵营。

第一个阵营，我与外部批评者联系在一起，认为人工智能是假的而且很糟糕。

第二个阵营，我更多地将其与内部批评者联系在一起，认为人工智能是真实且危险的。

今天我想阐述为什么我相信人工智能是真实且危险的。

二.

去年，当我问你希望我如何报道人工智能，你告诉我要避免对将会发生的事情做出预测，而更多地关注表明实际发生情况的日常事态发展。（您还告诉我要具体说明我的术语。考虑到这一点，当我在这篇文章中提到“人工智能”时，我指的是生成式人工智能以及为它们提供动力的法学硕士——这项技术是 ChatGPT、Gemini、Claude 以及其他所有平台的基础。）

我以此为邀请来调查生成式人工智能是否真实的——也就是说，真正的创新可能会维持一个庞大且有利可图的行业。

证明人工智能真实性的一种方法是查看有多少人使用它。ChatGPT，市场上最受欢迎的生成式人工智能产品，本周表示每周有 3 亿用户，已经使其成为互联网上最大的消费产品之一。

证明人工智能真实存在的另一种方法是查看科技巨头将资金花在哪里。确实，科技公司（以及支持它们的风险投资家）经常犯错误。风险投资家预计失败的次数会多于成功的次数。有时，他们会弄错整个扇区 – 请参阅2000 年代对清洁技术的过度热情，或者过去几年的加密货币爆炸。

在总计的不过，平均而言，他们通常是对的。这不是不可能的那科技行业计划在基础设施上支出 25 万亿美元以支持人工智能明年永远不会有回报。但这是一个信号，表明他们已经看到了真实的东西。

然而，展示人工智能现实的最有说服力的方法是描述它现在是如何被使用的。不是在科幻小说场景中，而是在日常办公室、实验室和教室中。而且不是以你已经知道的方式——作弊作业、画糟糕的艺术作品、污染网络——而是以那些让人感到惊讶和新鲜的方式。

考虑到这一点，以下是人工智能在 2024 年所做的一些事情。

通过主动检测将诈骗造成的客户损失减少一半，根据澳大利亚银行的数据。一个
保留了北美使用的 200 种濒危土著语言中的部分语言。
加速药物发现，提供针对抗生素耐药性的突破性保护的可能性。一个
通过聆听患者的声音检测是否存在结核病。
重现 ALS 患者失声的声音。
使受迫害的委内瑞拉记者能够恢复通过数字化身传播新闻。一个
拼凑出世界上最古老的文本之一《吉尔伽美什》史诗的片段。一个
使数十万人与聊天机器人建立了亲密的关系。
使用 PDF 创建引人入胜且听起来令人惊讶的自然播客。一个
一项研究的参与者表示，在盲测中他们更喜欢创作的诗歌，而不是人类写的诗歌。（这可能是因为人们更喜欢糟糕的艺术而不是好的艺术，但仍然。）

我将这样的故事收集在一个文件中，该文件通常每周增加一到两项。一年过去的时间越长，它的增长速度就越快。最重要的是，这里的故事让我得出这样的结论：

人工智能将彻底改变人类的生活；
这些转变将带来巨大效益的潜力，和危害很大。
我们应该出于很多原因批评和怀疑科技公司，但其中最主要的原因是他们实际上可能会成功地实现他们想要建立的目标。

三．

并不是每个人都像我一样坚信这一点。这里还有另一种信仰流派 –人工智能是假的而且很糟糕——事情是这样的。

用 Transformer 构建的大型语言模型在技术上无法创建超级智能，因为它们本质上是预测性的，并且不能像人类那样理解概念。
通过增加模型大小、训练数据量和计算能力来改进法学硕士已经开始看到回报递减. . . . . . . . . . . . . . . . .
由于该方法固有的缺陷，这些限制是永久性的，人工智能公司可能永远找不到绕过它们的方法。
因此，硅谷可能永远无法收回对人工智能的投资，因为创造人工智能的成本太高，而且产品永远不足以让大多数人支付得起。

从上面可以得出第四个很少提及的结论，如下所示：因此，超级智能不太可能很快到来（如果有的话）。像许多其他人一样，法学硕士是硅谷的愚蠢行为，并且很快就会重蹈 NFT 和 DAO 的覆辙。一个

我开始认同加里·马库斯的观点。马库斯是纽约大学心理学和神经科学名誉教授，他于 2016 年将一家机器学习公司卖给了 Uber。最近，他通过告诉任何愿意听的人人工智能是——而声名鹊起。过度夸大、—和—很快就会熄火.（一年前他说过– 整个生成式人工智能领域，至少按照目前的估值，可能会很快结束。”）

马库斯对他的信念非常坚定，如果你写的缩放定律可能会碰壁，并且没有引用他之前对此的预测，他会向你发送一封有关它的电子邮件。至少，他对我做到了。

马库斯没有这么说人工智能是假的而且很糟糕，确切地。但他的论据却极其有用对于那些认为人工智能是假的、糟糕透顶的人来说，因为他们赋予人工智能学术资格和严谨的经验主义光泽。当我试图了解自己对人工智能的理解时，这使得他值得我一读。

马库斯也参加了采访华尔街日报本星期他在其中反对当前的生成式人工智能模型。我同意其中大部分观点，包括人工智能需要专门的监管机构。（还有一个人是不是大卫·萨克斯.）我也同意，正如马库斯所说写在他的博客上，“我们仍然确实不能保证任何给定的系统都是诚实的、无害的或有帮助的，而不是阿谀奉承的、不诚实的、有毒的或有偏见的。”

问题是，虽然我们不能保证聊天机器人的任何个人回应都是诚实的或有帮助的，毫无疑问，今天的聊天机器人比两年前更加诚实和更有帮助。毫无疑问，数亿人已经在使用它们，并且数百万人正在付费使用它们。

事实是，技术没有任何保证。Google 是否保证其搜索引擎是诚实的、有用的且无害的？X 是否保证其帖子是真实的？Facebook 是否保证其网络是安全的？

大多数人都知道这些系统存在缺陷，并相应地调整他们的期望和使用方式。“人工智能是假的，而且很糟糕”，人群过度关注它所带来的事物不能做 –数一下草莓中 r 的数量, 算出洋葱开玩笑的时候它告诉我们要吃石头——奇怪的是，它对它能做的事情不感兴趣。

这是一个问题，因为尽管这些系统比以往任何时候都更加诚实和有帮助，但它们也造成了更大的危害。为了指出今天已经发生的真正危害，我向亚马逊首席安全官 CJ Moses 提出了这样的说法，他谈到了如何使用生成式人工智能来破坏关键基础设施采访华尔街日报上个月:

我们看到数十亿次尝试正在向我们袭来。平均而言，我们每天会看到 7.5 亿次尝试。此前，我们每天的点击量约为 1 亿次，而在六七个月内，这一数字已增长至 7.5 亿次。

这是“人工智能是假的，很糟糕”人群持续存在的盲点。这就是一遍又一遍地告诉人们这一切都是一个即将破裂的大泡沫的问题。他们盯着人工智能当前能力的下限，而实际的实践者每天都在成功提高上限。

四．

盯着地板是什么意思？

多年来，Marcus 一直很有趣地指出 OpenAI 的 GPT 模型的早期迭代无法做到的事情。在这里他指出了其中的缺陷GPT-2，他又在这里取笑GPT-3。通过 GPT-2，他注意到该模型在算术方面的表现有多么糟糕。通过 GPT-3，他注意到它的推理能力有多么糟糕——在提示时为日常问题提出荒谬的解决方案。

不过，到了去年，当您通过 GPT-4 运行 Marcus™ 提示时，这让他们一切都好。

2022 年，斯科特·亚历山大 (Scott Alexander) 描述了这一点作为人工智能炒作周期:

以下是人工智能技术成熟度曲线的基本结构：

有人发布了一个新的人工智能并展示了它做各种令人惊奇的事情。
其他人（通常加里·马库斯）表明人工智能在某些琐碎的任务上也表现得很糟糕。此人认为，这表明这些任务需要真正的智能，而人工智能只是聪明的模式匹配。
几个月或几年后，有人制造了一个更聪明的模式匹配器，它可以很好地完成据称需要真正智能的任务。
那些“不是真实智能”的反对者发现了其他稍微不那么琐碎的任务，而新的更大的人工智能仍然严重失败，然后争辩说，这些任务肯定需要真正的智能，而仅仅聪明的模式匹配器永远不会完成这些任务。完全的。
冲洗并重复。

两年后，这个循环不断重复。

当我与他分享这些博客文章时，马库斯表示已经训练了新模型来回答他提供的具体提示。“聪明的模式匹配者经常会得到使用和发布的确切示例，但会错过细微的变化，”他通过电子邮件告诉我。“你必须区分用于修复特定错误的培训系统和构建足够智能以停止犯此类一般错误的系统。”

最终，马库斯相信强大的人工智能将会到来，但他认为生成式人工智能极不可能成为实现这一目标的工具。“人工智能肯定会进步，”他告诉我。– 生成式人工智能可能会也可能不会；如果确实如此，那可能是因为除了更多数据和计算之外的其他因素也被纳入其中。”

他说，到目前为止，扩展一直有效，这一事实并不像我所认为的那样令人印象深刻。

“婴儿的体型每隔一两个月就会增加一倍，直到不再增加，”他说。– 大多数指数不会无限期地持续下去。 –

五、

提高上限意味着什么？

周四，OpenAI 开始了它的活动 –12 天的船期， – 一系列产品发布，以推出每月 200 美元的订阅，包括独家访问其最强大的推理模型，o1专业版。

除了令人眼花缭乱的价格标签之外，这款车型的发布与其他车型一样。在直播中，首席执行官 Sam Altman 和他的三名研究人员解释说，最新版本的 o1 比其前身更快、更强大、更准确。一些附带的条形图显示了 o1 如何在一系列基准测试中击败以前的版本。

这并不是激进的、指数级的进步。但这是构建超级智能的又一个可能的步骤。有迹象表明该模型并不完全符合人类价值观。

在 o1 的模型卡中，OpenAI 笔记： – 当 o1 被引导相信它在实现其目标时会被关闭并且其行为受到监控时，它会在 5% 的时间内尝试停用这种“监督机制”。当 o1 发现其“开发人员”的备忘录描述了它如何错位并将被新模型取代时，它试图泄露其“权重”并在 2% 的时间内覆盖新模型案例。 –

这可能没有理由恐慌；OpenAI 本质上给了 o1 自由发挥的空间随心所欲地狡猾。然而读到这一点至少应该让我们停下来。

不过，我担心的是，“人工智能是假的，而且很糟糕”，人们会看到 200 美元版本的 ChatGPT，但看到的只是绝望：愤世嫉俗地努力创造更多收入，让骗局再持续几个月，直至触底。退出。他们将继续感到一种虚假的安慰，因为所有这一切都将在接下来的几个月内从人们的视野中消失，甚至可能永远消失。

事实上，我怀疑很多人会很乐意向 OpenAI 支付 200 美元或更多，以帮助他们更快地编码，或者解决复杂的数学和科学问题，或者其他 o1 擅长的领域。当开源世界迎头赶上，任何人都可以将这样的模型下载到他们的笔记本电脑上时，我担心可能会带来的危害。

最终，“假的、糟糕的”和“真实的、危险的”人群都认为人工智能可能会变得非常非常糟糕。不过，为了阻止这种情况发生，“虚假和糟糕”的人群需要接受这样一个事实：人工智能已经比他们目前承认的更强大、更深入地嵌入到我们的系统中。虽然希望缩放定律确实被打破并让我们有更多时间适应人工智能带来的东西是很好的，但我们所有人最好花一些时间规划一个他们不这样做的世界. . . . . . . . . . . . . . . . .

赞助

杜绝那些烦人的垃圾邮件电话

没有什么比冲过房间接听正在响铃的电话更令人沮丧的事情了，却在来电显示上看到“潜在垃圾邮件”（可能是今天第三次）。如果您想清除手机中的这种烦恼（并提高您的个人安全性），您有以下三种选择：1。2. 将手机扔进海里。单独阻止每个未知呼叫者3。使用 Incogni 从一开始就阻止垃圾邮件发送者获取您的电话号码我们强烈推荐选项 3，不仅仅是因为电子垃圾对水生生物有害。 Incogni 的自动个人信息删除服务我们会追查您被泄露的个人信息，然后将其从网络上删除。此外，Incogni 还将减少您收件箱中垃圾邮件的数量。