英语轻松读发新版了,欢迎下载、更新

随着资金激增,OpenAI 的“造福全人类”使命面临风险 - Business Insider

2024-09-15 19:23:00 英文原文
  • OpenAI 可能计划在年内进行公司重组。
  • OpenAI 曾经是一家“造福全人类”的非营利组织,但在 2019 年转向“利润上限”模式。
  • OpenAI 首席执行官 Sam Altman 目前正在考虑取消这一上限,将投资者置于人类之上。

Sam Altman 于 2015 年创立了 OpenAI,肩负着崇高使命:开发“造福全人类”的通用人工智能。

他选择成为一个非营利组织来支持这一使命。

但是,随着该公司越来越接近开发通用人工智能(一种仍然主要是理论上的人工智能版本,它可以像人类一样进行推理),以及兴奋的投资者的资金涌入,一些人担心 Altman 正在忽视“好处”全人类”目标的一部分。

这是一个渐进但也许不可避免的转变。

OpenAI 在 2019 年宣布将增加一个营利性部门来为其非营利使命提供资金,但秉承其最初的精神,该公司将限制投资者可以拿回家的利润。

“我们希望提高筹集资金的能力,同时仍然服务于我们的使命,据我们所知,现有的法律结构没有达到适当的平衡,”OpenAI 当时表示。“我们的解决方案是将 OpenAI LP 创建为营利性和非营利性的混合体,我们称之为‘利润上限’公司。”

这是一个巧妙的举动,从表面上看,似乎是为了满足关心安全开发技术的员工和利益相关者,以及那些希望看到公司更积极地生产和发布产品的人。

但随着投资涌入营利性领域,以及公司和奥特曼的恶名增加,一些人变得紧张。

OpenAI 董事会去年曾短暂罢免 Altman,原因是担心该公司过于激进地发布产品而没有优先考虑安全性。员工们,尤其是微软(拥有数十亿美元的投资),前来拯救奥特曼。几天后,奥特曼就回到了自己的位置。

然而,文化裂痕已经暴露出来。

该公司的两位顶级研究员 Jan Leike 和 Ilya Sutskever 很快就辞职了。两人负责该公司所谓的超级调整团队,该团队的任务是确保公司安全地开发通用人工智能,这是 OpenAI 使命的核心宗旨。

同月晚些时候,OpenAI 彻底解散了超级对齐团队。离开后,雷克在X上表示,团队一直在“逆风航行”。

“OpenAI 必须成为一家安全第一的 AGI 公司,”Leike 在 X 上写道,并补充说构建生成式 AI 是“一项本质上危险的努力”,但 OpenAI 现在更关心构建“闪亮的产品”。

现在看来,OpenAI 几乎已经完成了向“快速行动、打破常规”的大型科技巨头的转型。

《财富》杂志报道称,奥特曼在上周的一次会议上告诉员工,该公司计划在明年放弃对非营利组织的董事会控制,因为这种控制已经“超出了规模”。

路透社周六报道称,OpenAI 目前即将获得另外 65 亿美元的投资,这将使该公司估值达到 1500 亿美元。但消息人士告诉路透社,这项投资有一个问题:OpenAI 必须放弃对投资者的利润上限。

这将使 OpenAI 在意识形态上远离其早期的梦想,当时其技术旨在开源并造福于所有人。

OpenAI 在一份声明中告诉《商业内幕》,它仍然专注于“构建造福所有人的人工智能”,同时继续与其非营利委员会合作。OpenAI 表示:“这个非营利组织是我们使命的核心,并将继续存在。”

关于《随着资金激增,OpenAI 的“造福全人类”使命面临风险 - Business Insider》的评论


暂无评论

发表评论

摘要

OpenAI 可能计划在年内进行公司重组。这是一个渐进但也许不可避免的转变。两人负责该公司所谓的超级对齐团队,该团队的任务是确保公司安全地开发通用人工智能,这是 OpenAI 使命的核心宗旨。这将使 OpenAI 在意识形态上远离其早期的梦想,当时其技术旨在开源并造福于所有人。OpenAI 在一份声明中告诉《商业内幕》,它仍然专注于“构建造福所有人的人工智能”,同时继续与其非营利委员会合作。”