英语轻松读发新版了,欢迎下载、更新

Chatgpt比以往任何时候都可以记住有关您的更多信息 - 您应该担心吗?

2025-04-19 19:30:00 英文原文

作者:Becca CaddySocial Links Navigation

A screenshot of the new chatgpt memory feature popup
(图片来源:未来)

chatgpt记忆过去很简单。您告诉它要记住什么,它听了。

自2024年以来chatgpt具有内存功能,使用户可以存储有用的上下文。从您的语气和写作风格到目标,兴趣和持续的项目。您可以进入设置以查看,更新或删除这些记忆。有时,它会自己注意到一些重要的东西。但是很大程度上,它记得什么你问它。现在,这发生了变化。

Openai,Chatgpt背后的公司是对其记忆进行重大升级。除了您手动保存的少数事实外,Chatgpt现在还将从您过去的所有对话中汲取灵感,以本身为未来的回应。

根据Openai的说法,内存现在以两种方式工作:保存的记忆,直接由用户添加,而聊天历史记录的见解,这是ChatGpt会自动收集的记忆。

此功能称为长期或持续记忆,正在向Chatgpt Plus和Pro用户推出。但是,在撰写本文时,由于区域法规,英国,欧盟,冰岛,列支敦士登,挪威或瑞士都不可用。

这里的想法很简单:聊天越多,它就会越有帮助。这是个性化的巨大飞跃。但这也是一个好时机,询问我们可能会放弃什么回报。

具有个人的记忆

ChatGPT

(图片来源:Shutterstock)

很容易在这里看到吸引力。Chatgpt的更个性化的经历意味着您的解释较少,并获得更多相关的答案。它有用,高效且熟悉。

个性化一直与记忆有关。”语音学,AI语音技术公司。认识某人更长的时间意味着您不再需要向他们解释一切。

他举了一个例子:要求Chatgpt推荐一个披萨店,它可能会轻轻地引导您走向更与您的健身目标保持一致的东西 - 根据对您的了解,微妙的微妙。这不仅遵循说明,而且在两行之间读书。

萨林说,这是我们如何与某人接近的。”这也是我们如何信任他们的。情感共鸣使这些工具感到如此有用 - 甚至令人欣慰。但这也增加了情感依赖的风险。可以说,这是重点。

萨林告诉我,从产品的角度来看,存储一直与粘性有关。它可以使用户回来。随着每次互动,切换成本都会增加。

Openai不会隐藏此。该公司的首席执行官。山姆·奥特曼(Sam Altman)发推文这种记忆使人能够在您的生活中认识您,并变得非常有用和个性化。”

这种有用性很明显。但是,依赖于他们的风险也是如此,不仅是为了帮助我们,而且是知道我们。

它记得像我们一样吗?

AI Brain

(图片来源:盖蒂图像)

长期记忆在AI中的挑战是它无法像人类一样理解上下文。

我们本能地划分了,将私人与专业人士的私密性区分开来,这与短暂的事情相比重要。Chatgpt可能会在这种上下文切换中遇到困难。

Sarin指出,由于人们将Chatgpt用于许多不同的事情,因此这些行可能会模糊。IRL,我们依靠非语言提示来确定优先级。没有那些。因此,没有上下文的记忆可能会带来不舒服的触发因素。

他给出了Chatgpt在每个故事中引用魔术和幻想的例子,或者只是因为您提到过一次喜欢Harry Potter。即使它们不再相关,它也会从过去的回忆中汲取灵感吗?他说,我们忘记的能力是我们成长的一部分。”<如果AI只反映我们是谁,那可能会限制我们成为谁。

没有排名的方法,该模型可能会浮出水面的事物,这些事物目前会感到随机,过时甚至不合适。

将AI记忆带入工作场所

持续的记忆对于工作可能非常有用。AI和数据科学负责人Julian Wiffen矩阵,一个具有AI内置的数据集成平台可见强烈的用例:它可以改善长期项目的连续性,减少重复的提示并提供更量身定制的助手体验。”

但是他也很警惕。``实际上,用户,尤其是公司都需要考虑一些严重的细微差别。他在这里最大的担忧是隐私,控制和数据安全。

我经常在提示中进行试验或大声思考。我不希望保留或更糟的是,在另一种情况下再次浮出水面。他还标志着技术环境中的风险,在这些环境环境中,代码或敏感数据的碎片可能会在项目之间进行,从而提高了IP或合规性问题。这些问题在受监管的行业或协作环境中被放大。

到底是谁的记忆?

OpenAI强调,用户仍然可以管理内存 - 删除不再相关的单个记忆,完全关闭它,或使用新的临时聊天按钮。现在,这出现在聊天屏幕的顶部,以进行对话,这些对话不会被过去的回忆所告知,也不会用于构建新的对话。

但是,威芬说这可能还不够。他说,令我担心的是缺乏细粒度的控制和透明度。”``通常不清楚该模型记得什么,保留信息多长时间以及它是否可以真正忘记。”

他还关心遵守数据保护法,例如GDPR:即使是善意的记忆功能也可能会意外保留敏感的个人数据或项目中的内部信息。从安全的角度来看,持久内存扩大了攻击表面。这就是为什么新更新尚未在全球范围内推出的原因。

答案是什么?Wiffen解释说,我们需要更清晰的护栏,更透明的内存指标以及充分控制所记忆和不记忆的东西的能力。”

并非所有的人工智能都记得一样

ChatGPT vs Gemini vs Copilot

(图片来源:Openai&Google&Microsoft)

其他AI工具正在采用不同的方法进行内存。例如,AI助手克劳德在当前对话之外没有存储持久的内存。这意味着更少的个性化功能,但更多的控制和隐私。

困惑,AI搜索引擎并不集中于内存,它可以检索实时的Web信息。AI是为情感陪伴而设计的Replika,但却是相反的,可以存储长期的情感环境以加深与用户的关系。

因此,每个系统都根据其目标对内存进行不同的处理。他们对我们的了解越多,他们就会越实现这些目标 - 无论是帮助我们写作,联系,搜索还是感到被理解。

问题是记忆是否有用。我认为这显然是。问题是我们是否希望AI成为擅长履行这些角色。

很容易说是的,因为这些工具被设计为有用,高效,甚至是必不可少的。但是,这种有用性不是中立的,这是故意的。这些系统是由我们更多地依靠它们而受益的公司建造的。

您不会愿意放弃第二个大脑,让您记得有关您的一切,可能比您要好得多。这就是重点。这就是您最喜欢的AI工具背后的公司所指望的。

您可能还喜欢

报名参加突发新闻,评论,意见,顶级技术交易等等。

贝卡(Becca)是自由记者兼作家Techradar的撰稿人。她写了十多年的关于消费者技术和流行科学的文章,涵盖了各种主题,包括机器人为何眼睛以及我们是否会有一天会体验概述效果。她对VR/AR,可穿戴设备,数字健康,太空技术以及与未来的专家和学者聊天特别感兴趣。她为Techradar,T3,Wired,New Scientist,The Guardian,Chorperse,以及更多的工作做出了贡献。她的第一本书《放映时间》于2021年1月出版,上面写着摇摆书。她热爱科幻小说,野蛮的建筑,并花费太多时间在虚拟现实中漂浮在太空中。 

关于《Chatgpt比以往任何时候都可以记住有关您的更多信息 - 您应该担心吗?》的评论


暂无评论

发表评论

摘要

Chatgpt正在收到一个内存升级,该升级将允许其从过去的所有对话中获取,以告知未来的响应,而不是用户手动保存的记忆。旨在提高个性化和效率的这种长期或持续的内存功能正在为Chatgpt Plus和Pro用户推出,但由于法规而面临区域限制。尽管这种增强可能会导致更量身定制的互动,但它也引起了人们对隐私,数据安全和对AI的情感依赖的担忧。用户可以控制自己的记忆,但是像Matillion的Julian Wiffen这样的专家强调了需要更清晰的准则和关于保留哪些信息以及存储多长时间的透明度的需求。其他AI工具根据其特定目标以不同的方式处理内存,将个性化与隐私和控制平衡。

相关讨论