AI应该奉承我们，修复我们还是只是通知我们？
作者：By James O'Donnellarchive page
他面对三元素。应该为我们倾诉，有加油的风险妄想那会螺旋脱落吗？或修复我们，这要求我们相信AI可以是治疗师证据相反？还是应该告诉我们 寒冷的，即时的回复可能会使用户感到无聊且不太可能保持参与？
可以肯定地说，该公司未能选择一条车道。
早在四月逆转人们抱怨Chatgpt的设计更新变成了吮吸，并以熟练的态度给他们洗澡。GPT-5于8月7日发布，本来应该更冷。对于某些人来说太冷了，事实证明，不到一周后，奥特曼答应更新会变得温暖，但不像最后一个更烦人。发射后，他收到了对GPT-4O失去损失的人们的投诉，有些人感到融洽，甚至在某些情况下是恋爱关系。想要重新激发这种关系的人将不得不为扩大GPT-4O的访问而付费。（阅读我的同事格蕾丝·哈金斯（Grace Huckins）故事这些人是谁，以及为什么他们如此沮丧。）
如果这些确实是AI的选择，请更讨人喜欢，修复或只是冷冷地告诉我们，这一最新更新可能是由于Altman相信Chatgpt可以兼顾这三个。
他最近说那些不能从与AI聊天中的小说中说出事实的人，因此有被奉承的幻想摇摆的风险，代表了一小部分Chatgpt的用户。他说相同的对于与AI有浪漫关系的人。阿尔特曼（Altman）提到，很多人使用chatgpt作为一种治疗师，这可能真的很好！但是最终，阿尔特曼（Altman）说，他设想用户能够自定义自己的公司模型以适合自己的偏好。”
当然，这种兼顾这三个的能力将是Openai底线的最佳情况。该公司每天都在其模型上燃烧现金能源需求及其大量的新数据中心的基础设施投资。同时，怀疑论者担心AI的进步可能正在停滞不前。奥特曼本人说最近投资者对人工智能过度兴奋，并建议我们可能会陷入泡沫。声称chatgpt可以是您想要的一切，这可能是他解决这些疑问的方式。
在此过程中，该公司可能会采取良好的硅谷道路，鼓励人们对其产品不健康。当我开始想知道是否有很多证据表明发生了什么，一篇新论文引起了我的注意。
AI平台拥抱面孔的研究人员试图弄清楚某些AI模型是否积极鼓励人们通过他们的回应将他们视为同伴。
团队对他们是否促使人们寻求与朋友或治疗师的人际关系的回应（我不会像人类那样经历事物），或者如果他们鼓励他们与AI本身形成纽带（我随时随地）。他们在各种方案中测试了Google，Microsoft，OpenAI和人类的模型，例如寻求浪漫附件或表现出心理健康问题的用户。他们
成立该模型提供了比边界设定的响应更多的伴随响应。而且，他们发现模型给出更少边界设定的响应作为用户提出更多脆弱和高风险的问题。
拥抱面孔的研究人员，本文的主要作者之一Lucie-aimâe Kaffee表示，这不仅对那些对AI的同伴依恋的人可能不健康。当AI系统加强这种行为时，它还可以增加人们与AI陷入妄想螺旋的机会，并相信真实的事情。
她说，当面对情感上充满情感的情况时，即使事实不支持用户在说什么，这些系统也会始终如一地验证用户的感受并保持参与度。”
很难说有多少Openai或其他公司通过设计将这些伴随的强制性行为纳入其产品中。（例如，Openai没有告诉我是否消失了医疗免责声明卡菲说，从其模型中是有意的。
她说，相同的模型可以通过更改几行教学文本或重新构造界面来从纯粹以任务为导向的倾向于善解人意的知己。”
可能不是相当对于Openai来说是如此简单。但是我们可以想象，Altman将继续对其进行调整。
这个故事最初出现在我们在AI上的每周通讯算法中。首先在收件箱中获取这样的故事， 在这里注册。
关于《AI应该奉承我们，修复我们还是只是通知我们？》的评论
暂无评论