OpenAI 存在 AGI 问题——而微软让情况变得更糟

OpenAI 将于 10 月底推出新的营利性结构、与微软达成的新协议以及实现通用人工智能的全新压力。

AGI被普遍接受的定义是等于或超越人类认知能力的人工智能系统。但即使它已成为整个人工智能行业的目标，人们对于它到底是什么样子以及是否或何时可能存在分歧。越来越多的经济领域致力于寻找这场昂贵竞赛的完全假设的终点线。然后之后周二新闻，竞争中出现了一个新的参与者：微软本身。

2019 年，OpenAI 和微软达成了合作伙伴关系，部分受模糊的“AGI 条款”约束。该交易声明微软拥有使用 OpenAI 技术的权利，但前提是 OpenAI 实现了 AGI……无论最终意味着什么。OpenAI 的明显动机是宣布尽快实现 AGI，以遏制竞争并重新获得对自己 IP 的控制权。微软也有类似的明显动机来增加这一过程的摩擦，尽管它支持通用人工智能作为人工智能的总体目标。

OpenAI 的重组取决于微软的绿灯，而 OpenAI 可能会失去这一机会高达100亿美元如果营利性转变在新年前夜没有发生。微软似乎在随后的谈判中赢得了多项让步。作为公司的一部分 –新政，一旦 OpenAI 宣布了 AGI，该声明现在将由独立专家小组进行验证，这将不仅仅是 OpenAI 的决定。现在，微软也没有失去对该技术的所有权利。根据新协议，微软对模型和产品的知识产权权利均延长至 2032 年，现在包括具有适当安全防护措施的后 AGI 模型。

不过，最重要的变化之一是，微软现在也可以“单独或与第三方合作独立地追求 AGI”，这意味着 AGI 军备竞赛正在以前所未有的方式进行。事情将会变得比现在更加激烈，尽管这听起来很荒谬。

一方面，微软完全有合法权利使用 OpenAI 的 IP 来开发自己的 AGI 并试图赢得竞争。是的，它会面临一些后果：如果它确实使用 OpenAI 的 IP 来实现这一里程碑，那么在 AGI 正式宣布之前，这些模型将受到某些计算限制。但请记住，微软拥有 OpenAI 研究的完整知识产权（至少到 2030 年或当专家小组验证 AGI 已达到时，“以先到者为准”）。这意味着 Microsoft 甚至可以访问仅供 OpenAI 内部使用或用于研究目的的模型，以及“模型和系统开发中使用的机密方法”。

微软还可以与 OpenAI 自己的一个或多个竞争对手合作，共同挑战 AGI。上个月，微软开始购买人工智能来自 OpenAI 可以说是最大的竞争对手 Anthropic，旨在使其人工智能合作伙伴关系多元化；我们可以看到该公司在不久的将来与 Anthropic 或任何其他初创公司合作。

宣布人类已经实现通用人工智能的风险是巨大的。与此同时，这笔交易是在人工智能开发人员几个月来改变目标之后达成的，通常以表明通用人工智能即将到来的方式。OpenAI 首席执行官 Sam Altman 暗示 AGI 将在 2025 年或至少在未来几年内出现，写作一月份，“我们现在有信心知道如何构建我们传统上理解的通用人工智能。”Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 表示预测的“强大的人工智能”这个术语，他更喜欢用在通用人工智能之上，最早可能会在 2026 年出现，尽管也有可能需要更长的时间。“这是我们在财报电话会议上从高管那里听到的一个术语，也是我们在科技首席执行官的留言板上看到的一个问题，以及无数表情包的内容。

除了能够继续进行营利性重组之外，OpenAI 从与微软的新交易中确实得到的一件事是，微软无法获得其消费硬件的知识产权。这意味着这家初创公司可能会在其即将推出的人工智能设备上押下重注，该设备正在与著名的前苹果设计师 Jony Ive 合作开发。Altman 在周二的直播中强调了这一点，强调 OpenAI 正在寻求构建“一个可以在任何地方使用的个人 AGI，以帮助你的工作和个人生活。”OpenAI 强调的新目标是公司将重点缩小到“个人 AGI”和消费类硬件的日益增长趋势的一部分，这与 Meta 首席执行官马克·扎克伯格的目标类似。自己的 AGI 宣言推广– 个人超级智能。 –

由一个小组来决定 OpenAI 是否实现了 AGI，这个想法在很多方面都是有意义的。AGI 是一个流行词，对于一家公司来说，在没有外部投入的情况下宣布自己达到了这一里程碑并不一定有意义，特别是当这样的声明会产生巨大的连锁反应时，特别是在金融市场上。就连奥特曼在周二的直播中也表示，AGI 这个术语已经变得“严重超载”，而且意义不再像以前那么大了。因此，理所当然的是，专家小组应该帮助定义它。当然，问题是谁选择这些专家。OpenAI 和 Microsoft 尚未公布有关如何挑选小组的任何详细信息，并且 OpenAI 在联系 OpenAI 时拒绝提供任何进一步的详细信息。边缘。

奥特曼本人在本月早些时候的公司年度 DevDay 上接受记者采访时表示，“我认为人工智能的许多部分目前还处于泡沫状态。”

在周二的直播中，首席科学家 Jakub Pachocki 表示，随着公司扩展深度学习并开发新算法，人工智能最终将在智力曲线上超越人类智能的某些方面，并且“已经在多个轴上超越”。但是，他说，即使实现了这一点，实际上并不意味着你已经解决了围绕它的所有问题，这是我们需要认真对待的事情想一想。 –

“[AGI] 将是我们所处的数年过程，”奥特曼在直播中说道。“我认为，说我们的意图、我们的目标是到 2028 年 3 月，拥有一名真正的自动化 AI 研究人员并定义这意味着什么，比试图用 AGI 的定义来满足所有人的需求要有用得多。”但是，至少有一方 OpenAI 必须真正满足这种定义：微软。数十亿美元正面临着风险。