OpenAI 称最新的 ChatGPT 可以思考,我有想法 - 卫报

2024-09-17 11:39:00 英文原文

<正文>

由 OpenAI 于 2022 年 11 月发布的 ChatGPT 引发的生成式 AI 革命即将迎来两周年。到目前为止,它是一个混合包。

OpenAI 最近宣布其每周活跃用户数已突破 2 亿,这一点不容小觑,但在发布后两个月内就首次突破 1 亿。YouGov 最近的一项研究发现,在产品中加入人工智能不仅可能会让潜在购买者放弃现金,也可能会让他们放弃购买。

尽管如此,资金仍在不断流入该行业,并且不断取得进展。OpenAI 正在四处寻找投资者,为未来的发展提供资金,这将使该公司估值达到 1500 亿美元。这将使其与思科、壳牌和麦当劳相提并论。上周,该公司推出了名为 o1 的最新模型,并称其为生成人工智能发展的一步变革。

o1 模型以前的代号为草莓,旨在通过决策进行推理,与人类的方式非常相似。ChatGPT 的最新版本模型在输出速度和模型大小方面实际上是倒退了一步,暂时较小。将其视为 GPT-4.5,而不是传闻中的下一个重大迭代 GPT-5,据报道后者仍在开发中。

任务:不可能?

虽然在纸上 o1 是一个潮湿的爆管,但它做了 Alex 之前在本新闻稿中强调的基于 LLM 的聊天机器人问题,他称之为 Tom Cruise 问题。问题是,研究人员可以用一种方式向 ChatGPT 提出问题,但当被问到与第一个问题直接相关的问题时,例如,汤姆·克鲁斯的母亲是谁?(答案:Mary Lee Pfeiffer),然后被问到Mary Lee Pfeiffer的儿子是谁?(答案:汤姆·克鲁斯)它会犹豫不决。

问 o1 这两个问题,它就答对了。它甚至提供了 OpenAI 是如何得到答案的痕迹,而 OpenAI 的答案是精明且不准确的,因为人工智能模型没有大脑,即思想。(如果你想知道为什么人工智能模型拟人化是一个问题,请看看我在二月份写的这个故事。)当被问到第二个问题时,o1 想了四秒钟,包括追踪家庭关系和确认细节。

到目前为止,一切都很好。OpenAI 表示 o1 可以推理。许多人对这样的声明不太确定,但让他们出于营销目的而使用它。这意味着使用生成式人工智能的方式将发生重大转变:它可以考虑信息并做出响应,而不是从训练数据中反省事实,或者生成统计上认为最有可能取悦用户的答案。

然而,“可能”是关键词。我们对这些东西的工作原理仍然一无所知,我们也包括这些工具的开发人员。OpenAI 表示,这种推理能力是一件大事,该公司甚至提出了一个值得怀疑的说法,即 o1 是其迄今为止最危险的模型(请参阅此处,了解有时这比任何事情都更营销)。那些尝试探究 o1 模型局限性的人似乎同意他们的推理观点,但对危险部分则不太同意。

别理会幕后的那个人!

嗯,有点像。因为探索只能到此为止。如果你想要一本好的入门书,为了尝试理解支持 o1 的思维过程链,西蒙·威利森 (Simon Willison) 是永远值得信赖的用户,想要深入了解 o1 的思维过程,他们一直试图获得更多关于 o1 思维过程的细节。当前向用户显示的信息是思想链中每个步骤的简要总结。

正因为如此,他们一直在询问模型本身如何得出答案,尽管他们也收到了来自 OpenAI 的电子邮件,要求他们停止,否则他们的帐户将被暂停。

这一切都意味着我们被蒙在鼓里。这看起来像是人工智能世界中的一个革命性的步骤变化,并且可以将工具从必须用怀疑的眼光看待输出的工具转变为必须使用的工具。

特别有趣的是,OpenAI 的主导地位已经有效地挤出了最近所有竞争对手的覆盖范围。备受推崇的法国竞争对手 Mistral 上周发布了其首款多式联运车型。Pixtral 12B 模型将图像识别添加到文本生成中。它应该获得巨大的喝彩。但 OpenAI 和 o1 吸走了所有的氧气。

尽管如此,这一切都意味着人工智能列车继续行驶,并且开始最终兑现其承诺。那些在早期尝试过 ChatGPT 并发现其不足的人是否可以被说服回来尝试新的超棒模型是另一个问题。

更广泛的技术景观

  • 在线约会应用程序导致收入不平等加剧,因为人们选择与自己收入相同的伴侣,而抛弃那些收入较低的人。

  • 在互联网档案馆等第三方服务受到攻击和起诉的世界中,我们如何保存我们的数字历史?

  • 欧盟委员蒂埃里·布雷顿 (Thierry Breton) 一直是一位直言不讳的大型科技评论家,他因与乌苏拉·冯德莱恩 (Ursula von der Leyen) 发生口角而离职。

  • 数据中心排放量可能比公开宣称的高出 662%。

  • 白宫强烈谴责埃隆·马斯克在推特上回应一位 X 用户询问为什么他们想杀死唐纳德·特朗普?与此同时,这就是马斯克心目中的 24 小时。

  • TikTok 昨天在法庭上开始了生存之战。

摘要

由 OpenAI 于 2022 年 11 月发布的 ChatGPT 引发的生成式 AI 革命即将迎来两周年。上周,该公司推出了名为 o1 的最新模型,并称其为生成人工智能发展的一步变革。如果你想要一本好的入门书,为了尝试理解支持 o1 的思维过程链,西蒙·威利森 (Simon Willison) 是永远值得信赖的用户,想要深入了解 o1 的思维过程,他们一直试图获得更多关于 o1 思维过程的细节。当前向用户显示的信息是思想链中每个步骤的简要总结。欧盟委员蒂埃里·布雷顿(Thierry Breton)一直是一位直言不讳的大型科技评论家,他因与乌苏拉·冯德莱恩(Ursula von der Leyen)发生口角而离职。