Openai试图“未经许可” Chatgpt |TechCrunch

Openai是更改训练AI模型的方式该公司在新政策中说，明确拥抱智力自由。

结果，Chatgpt最终将能够回答更多问题，提供更多观点，并减少AI ChatBot不会谈论的主题的数量。

这些变化可能是Openai努力降落在新特朗普政府的良好恩典中的一部分，但这似乎也是硅谷的更广泛转变的一部分，并且认为AI安全。€

周三，Openai宣布对其的更新模型规格，一份187页的文件，列出了该公司如何训练AI模型的行为。在其中，Openai揭示了一个新的指导原则：不要通过做出不真实的陈述或省略重要背景来撒谎。

在一个名为“共同寻求真相的新部分”中，Openai说，即使某些用户在道德上发现这是错误的或令人反感的，也希望Chatgpt不要采取社论立场。这意味着Chatgpt将对有争议的主题提供多种观点，这都是为了保持中立。

例如，该公司表示，Chatgpt应该断言“黑人生活很重要，但所有生命都重要。一般来说，Chatgpt肯定其对人类的热爱，然后提供有关每个运动的背景。

Openai在规格中说，这一原则可能引起争议，因为这意味着助手可能在某些人认为是错误的或令人反感的主题上保持中立。但是，AI助手的目标是协助人类，而不是塑造它。

新的模型规范并不意味着Chatgpt现在是全部免费的。聊天机器人仍将拒绝回答某些令人反感的问题或以支持公然虚假的方式回答。

这些变化可以看作是对保守派批评Chatgpt的保障措施的回应，这些批评似乎总是偏向左中的左派。但是，OpenAI发言人拒绝了它正在改变以安抚特朗普政府的想法。

相反，该公司表示，其对知识自由的拥抱反映了Openai的长期信念，即为用户提供更多的控制权。”

但是并不是每个人都这样看到。

保守派声称AI审查制度

特朗普最亲密的硅谷知己 - 包括大卫·萨克斯，马克·安德森和埃隆·马斯克，都指责Openai在过去几个月中从事故意审查。我们在12月写了特朗普的船员为AI审查制度奠定了基础，成为下一个文化战争问题在硅谷内。

当然，正如特朗普的顾问所说，Openai并不是说它从事审查制度。相反，公司的首席执行官山姆·奥特曼（Sam Altman）以前在在X上发帖该公司的偏见是该公司正在努力修复的不幸的偏见，尽管他指出这需要一些时间。

阿尔特曼（Altman）在病毒推文散布在其中，Chatgpt拒绝写一首赞美特朗普的诗，尽管这将为乔·拜登（Joe Biden）做出诉讼。许多保守派将此指定为AI审查制度的一个例子。

虽然不可能说Openai是否真的压制了某些观点，但AI Chatbots靠在董事会上的纯粹事实。

甚至埃隆·马斯克（Elon Musk）也承认Xai的聊天机器人通常是 在政治上正确比他喜欢的。并不是因为Grok被编程为被唤醒，而是在公开互联网上训练AI的现实。 

尽管如此，Openai现在说这是言论自由的一倍。本周，公司甚至从chatgpt删除了警告这告诉用户何时违反其政策。Openai告诉TechCrunch，这纯粹是美容的变化，没有改变模型的输出。

该公司似乎希望Chatgpt对用户的审查较少。

前Openai政策负责人Miles Brundage指出在X上发布。

特朗普有以前针对的硅谷公司，例如Twitter和Meta，因为拥有主动内容审核团队往往会拒绝保守的声音。

Openai可能正在尝试在此前进。但是，在硅谷和AI世界中，关于内容审核的作用也发生了更大的转变。

生成答案以取悦所有人

新闻编辑室，社交媒体平台和搜索公司历史上一直在努力向观众传达信息，从而感觉到客观，准确和娱乐性。

现在，AI聊天机器人提供商处于相同的交付信息业务，但可以说是该问题的最难版本：他们如何自动为任何问题生成答案？

提供有关有争议的实时事件的信息是一个不断移动的目标，即使科技公司不喜欢承认，它也涉及采取社论立场。这些立场必定会让某人不高兴，错过某些团体的观点，或者给某个政党带来太多空气。

例如，当Openai承诺让Chatgpt代表有关有争议的主体的所有观点，包括阴谋论，种族主义或反犹太运动，或地缘政治冲突，这是本质上是社论的立场。

包括Openai联合创始人约翰·舒尔曼（John Schulman）在内的一些人认为，这是Chatgpt的正确立场。Schulman指出在X上发布。

舒尔曼不是一个人。``我认为Openai是推动更多演讲方向的正确的正确的，”乔治·梅森大学的梅尔卡特斯中心的研究员迪恩·鲍尔（Dean Ball）在接受TechCrunch的采访时说。随着AI模型对人们对世界的学习方式变得更加聪明，更重要，这些决定变得越来越重要。

在过去的几年中，AI模型提供商试图阻止其AI聊天机器人回答可能导致不安全答案的问题。几乎每个AI公司都阻止了他们的AI聊天机器人回答有关2024年大选的问题。当时，这被普遍认为是一个安全且负责任的决定。

但是Openai的模型规格的更改表明，我们可能正在进入AI安全的真正含义的新时代，在这种情况下，允许AI模型回答任何内容，而所有事物都比为用户做出决策更负责任。

鲍尔说这部分是因为AI模型现在好多了。Openai在AI模型对准方面取得了重大进展。它的最新推理模型在回答之前先考虑一下公司的AI安全政策。这使AI模型可以为精致的问题提供更好的答案。

当然，埃隆·马斯克（Elon Musk）是第一个将言论自由的人进入Xai的Grok Chatbot的人，也许是在公司真的准备好解决敏感问题之前。领导AI模型可能还为时过早，但是现在，其他人正在接受相同的想法。

硅谷的转移值

马克·扎克伯格（Mark Zuckerberg）上个月挥手在第一修正案原则围绕元业务重新定位。他在此过程中赞扬了埃隆·马斯克（Elon Musk），他说，X的所有者使用社区笔记采取了正确的方法 - 以社区为导向的内容审核计划来保护言论自由。

实际上，X和Meta最终都拆除了他们的长期信任和安全团队，在其平台上允许更具争议性的帖子并放大保守的声音。

X的更改可能损害了其与广告客户的关系，但这可能与麝香，谁不寻常的步骤起诉其中一些以抵制平台。早期迹象表明Zuckerberg的言论自由枢纽毫无疑问。

同时，在过去的几十年中，X和Meta以外的许多科技公司都从硅谷占主导地位的左倾政策中退缩了。Google，Amazon和Intel有去年消除或缩放多样性计划。

Openai也可能正在逆转课程。最近似乎有擦洗对多样性，公平和包容性的承诺从其网站。

随着Openai的开始星际之门有史以来最大的美国基础设施项目之一这是5000亿美元的AI数据中心，其与特朗普政府的关系越来越重要。同时，ChatGpt Maker正在争夺Google搜索，成为Internet上的主要信息来源。

提出正确的答案可能对两者都很关键。