为您带来 ChatGPT 的 OpenAI 公司刚刚出卖了您。
ChatGPT 的制造商承诺与公众分享其利润。但萨姆·奥特曼刚刚出卖了你。
自 2015 年成立以来，其领导人一直表示，他们的首要任务是确保人工智能安全、有益地发展。他们吹捧该公司不同寻常的公司结构是证明其动机纯洁性的一种方式。OpenAI 是一家非营利组织，不是由其首席执行官或股东控制，而是由一个只有一个使命的董事会控制：确保人类安全。
但本周，有消息称 OpenAI 将不再受非营利组织董事会控制。OpenAI 正在转变为一家成熟的营利性公司。哦，还有首席执行官萨姆·奥尔特曼（Sam Altman），他之前强调自己没有公司任何股权，现在除了对 OpenAI 的最终控制权之外，还将获得价值数十亿美元的股权。
在消息传出前不久，首席技术官米拉·穆拉蒂 (Mira Murati) 在一份看似巧合的声明中表示，她将离开公司。据报道，员工们都措手不及，以至于他们中的许多人对她的突然离开做出了反应，并在 Slack 中使用了“WTF”表情符号。
确实是WTF。
OpenAI 的重点是非营利性和安全第一。几年前，OpenAI 就开始偏离这一愿景，2019 年，OpenAI 创建了一个营利性部门，以便随着构建先进人工智能的成本不断增加，它可以从微软获得所需的巨额投资。但它的一些员工和外部崇拜者仍然希望公司能够坚持其原则。现在这个希望可以破灭了。
Jeffrey Wu 于 2018 年加入该公司，致力于 GPT-2 和 GPT-3 等早期模型的研究，他告诉我，我们可以告别希望不受财务义务约束的 OpenAI 原始版本。
围绕核心营利性实体进行重组正式确立了外界早已知晓的事实：OpenAI 正在寻求在过去几年获得大量投资的行业中获利，康奈尔大学董事 Sarah Kreps 表示技术政策研究所。这一转变背离了 OpenAI 创立之初对安全性、透明度和不集中权力的目标的重视。
如果本周的新闻是 OpenAI 崇高创始愿景的最后丧钟，那么是谁扼杀了它，这一点显而易见。
当埃隆·马斯克（Elon Musk）（与 Altman 等人一起）于 2015 年共同创立 OpenAI 时，他担心人工智能可能会给人类带来生存风险，这个崭露头角的研究实验室用以下三句话向世界介绍了自己：
<块引用>OpenAI 是一家非营利性人工智能研究公司。我们的目标是以最有可能造福全人类的方式推进数字智能，不受产生财务回报的需求的限制。由于我们的研究没有财务义务，因此我们可以更好地关注对人类的积极影响。
现在所有这些客观上都是错误的。
自 2019 年 Altman 掌舵 OpenAI 以来，该公司一直偏离其使命。那一年，该公司（这家最初的非营利组织）创建了一家营利性子公司，以便吸引构建尖端人工智能所需的巨额投资。但它在硅谷做了一件史无前例的事情：它限制了投资者可以获得的利润。他们可以获得最多 100 倍于其投入的资金，但除此之外，这些钱将流向非营利组织，后者将用它来造福公众。例如，它可以资助一项全民基本收入计划，以帮助人们适应自动化导致的失业。在接下来的几年里，随着 OpenAI 急于将产品商业化，它越来越不重视安全性。到 2023 年，非营利组织董事会对奥特曼变得如此怀疑，以至于试图将他驱逐。但他很快利用自己与微软的关系重新掌权，并组建了一个对他有利的新董事会。今年早些时候，随着员工对 Altman 失去信心并退出公司，OpenAI 的安全团队崩溃了。
现在，奥特曼已经迈出了巩固权力的最后一步：他完全剥夺了董事会的控制权。虽然它仍然存在，但它不会有任何牙齿。
吴说，在我看来，原来的非营利组织已经被剥夺了权力，其使命被重新解释为与利润完全一致。
奥特曼认为，利润可能是公司迫切需要的。尽管本周他发表了一篇极其自信的博客文章，声称人工智能将有助于修复气候、建立太空殖民地以及发现所有物理现象，但 OpenAI 实际上陷入了困境。该公司一直在努力为其模型寻找一条实现财务成功的明确途径，这些模型的建造成本达数亿甚至数十亿。将企业重组为营利性企业有助于吸引投资者。
但此举引起了包括马斯克本人在内的一些观察人士的质疑：这怎么可能合法？
如果 OpenAI 取消利润上限，未来将有大量资金从非营利组织转移到投资者手中，预计未来数十亿美元。因为非营利组织代表公众，这实际上意味着从像你我这样的人手中转移数十亿美元。正如一些人所指出的，这感觉很像盗窃。
如果 OpenAI 追溯性地取消投资的利润上限，这实际上会将数十亿美元的价值从非营利性投资者转移到营利性投资者雅各布·希尔顿 (Jacob Hilton)，他是 OpenAI 的前雇员，在 OpenAI 从非营利性转型为非营利性之前加入。利润上限结构。除非非营利组织得到适当的补偿，否则这将是一种抢钱行为。在我看来，这样的事情与 OpenAI 的章程不相容，该章程规定 OpenAI 的主要信托义务是对人类的责任，而且我不明白法律如何允许这样做。
但由于 OpenAI 的结构前所未有，这种转变的合法性可能会让一些人感到困惑。这可能正是该公司所指望的。
当被问及对此发表评论时，OpenAI 表示仅参考其在彭博社的声明。一位公司发言人表示，OpenAI 仍然专注于构建造福所有人的人工智能，并补充说，这个非营利组织是我们使命的核心，并将继续存在。
人工智能安全的倡导者一直认为，我们需要通过对大型人工智能公司进行一定监督的法规，例如加州的 SB 1047 法案，州长加文·纽瑟姆必须在未来几天内签署成为法律或否决该法案。
现在，奥特曼已经巧妙地为他们阐述了他们的观点。
吴说，公众和监管机构应该意识到，默认情况下，人工智能公司将被激励忽视人工智能部署的一些成本和风险，而且这些风险有可能是巨大的。
Altman 也证实了他的前员工的担忧，他们发表了一项提案，要求允许大型人工智能公司的员工有权对先进人工智能发出警告。根据提案：人工智能公司有强大的财务激励来避免有效的监督，我们认为定制的公司治理结构不足以改变这一点。
显然，他们是对的：OpenAI 的非营利组织本应统治营利性部门，但 Altman 只是颠倒了这种结构。
经过多年对媒体、公众和国会政策制定者的甜言蜜语，向所有人保证 OpenAI 想要监管并且更关心安全而不是金钱，Altman 甚至不再费心去玩游戏了。他向所有人展示了他的真面目。
纽瑟姆州长，你看到这个了吗？
国会，你看到这个了吗？
世界，你看到这个了吗？