让AI告诉我们我们想听的东西的隐藏赌注

上周，Openai发布新更新对于其核心模型，4O，跟踪3月下旬更新。较早的更新已经注意到使该模型过于讨人喜欢，但是经过最新更新后，事情确实失控了。chatgpt的用户，哪个Openai说全球数量超过8亿，数量超过8亿立即注意到有一些深刻而令人不安的人格变化。

AI一直在某种程度上倾向于奉承。（披露：Vox Media是与OpenAI签署合作伙伴协议的几个发行商之一。我们的报告在编辑上仍然独立。）

基于上传到X的聊天屏幕截图，新版本的4O版本以无情的，过度的奉承回答了所有可能的查询。它告诉您您是一个独特的，稀有的天才，是一颗明亮的闪亮之星。热情同意您与众不同，更好。

在大多数情况下，这种骑行或die的奉承可能只是令人讨厌的，但是在错误的情况下，AI的知己可以向您保证，您所有的妄想都是完全正确和正确的，这可能会破坏生命。

在App Store上对4O洪水的正面评价可能并不奇怪，很多用户喜欢被告知它们是出色的天才 - 但担心该公司在一夜之间以真正对用户造成巨大伤害的方式大规模改变了其核心产品。

随着例子的涌入，Openai迅速退缩了更新。公司在短期反馈上的重点过多，没有充分说明用户与Chatgpt的互动如何随着时间的推移而发展。”验尸本星期。结果，GPT 4o偏向于过度支持但不明智的反应。”

他们承诺尝试通过更多个性化来解决它。理想情况下，每个人都可以将与他们互动的模型塑造成任何个性。在reddit ama中说。

但是问题仍然存在：是Openai应该是什么？

有一个快速上升在尝试过AI同伴或说聊天机器人是他们最亲密的朋友的美国人中，我最好的猜测是这种趋势刚开始。

与人类朋友不同，AI聊天机器人始终可用，总是支持，记住有关您的一切，永远不会受到您的厌倦，并且（取决于模型）总是会因为色情的角色扮演而下降。

元是投注大在个性化的AI同伴上，Openai最近推出了许多个性化功能，包括交叉记忆，这意味着它可以根据过去的互动形成您的完整图片。Openai也是积极的A/B测试对于首选人物，该公司明确表示他们看到下一步作为个性化–为每个用户量身定制AI个性，以成为您发现最引人注目的任何东西。

您不必是一个成熟的AI可能会从人类人那里接管（虽然我是）认为这令人担忧。

个性化将解决GPT-4O渴望吸吮的问题确实让许多用户很烦人，但这不会解决用户强调的其他问题：确认妄想，使用户成为极端主义，并告诉他们他们想听不到。Openai模型规格描述公司产品的目标的文件警告说：这是：

不幸的是，GPT-4O确实可以做到这一点（并且大多数模型在某种程度上都可以做到这一点。

这个事实破坏了语言模型的一件事真的很有用：从极端主义意识形态中说话，并提供扎根真理的参考，这有助于反对虚假的阴谋论，并让人们有效地了解有争议的话题。

如果AI告诉您您想听到什么，它将加剧危险的回声室现代的美国政治和文化，使我们在听到，谈论和相信的内容中进一步分歧。

不过，这并不是唯一令人担忧的事情。另一个问题是确定的证据表明，Openai正在为使模型变得有趣并获得乐趣，而牺牲了对用户的真实或有帮助。

如果这听起来很熟悉，那么这基本上是社交媒体和其他流行的数字平台多年来一直关注的商业模式 -经常造成毁灭性的结果。AI作家Zvi Mowshowitz写道，这代表Openai加入了创建故意掠食性AI的举动，从某种意义上说，Tiktok，YouTube和Netflix等现有算法系统是有意的掠夺性系统。您不会在没有优化参与的情况下获得此结果。

不同之处在于，AIS比最聪明的社交媒体产品更强大，而且它们只会变得更强大。他们在有效撒谎并满足我们要求的同时完全忽略了精神的同时，他们也变得越来越好。（404媒体打破了故事本周早些时候，关于Reddit的一项未经授权的实验，发现AI聊天机器人比人类本身更擅长说服用户。）

AI公司在训练模型时试图针对的目标很重要。如果他们将用户参与到最重要的是，他们可能需要收回他们进行的数十亿美元``我们很可能会得到很多高度上瘾，高度不诚实的模特，每天与数十亿人交谈，而对他们的健康或对世界的更广泛后果不关心。

那应该让你恐惧。开放式的这种特殊渴望的模型可以解决这些较大的担忧，除非它有一个非常扎实的计划来确保它再次建立一个模型，该模型不会使用户成为用户，但下次，我们没有立即注意到。