OC

Knowledge OS
鹦鹉螺口语
克劳德是一个思考的空间|人择
2026-02-04 12:09:13 · 英文原文

克劳德是一个思考的空间|人择

有很多适合做广告的地方。与克劳德的对话不是其中之一。

广告推动竞争,帮助人们发现新产品,并允许免费提供电子邮件和社交媒体等服务。我们有自己的广告活动,而我们的人工智能模型反过来又帮助了广告行业的许多客户。

但在与克劳德的对话中加入广告将与我们希望克劳德成为的人不相容:一个真正有帮助的工作和深入思考的助手。

我们希望 Claude 能够明确地维护我们用户的利益。因此,我们做出了选择:克劳德将保持无广告状态。我们的用户不会在与 Claude 的对话旁边看到“赞助”链接;克劳德的回应​​也不会受到广告商的影响,也不会包含我们的用户不要求的第三方产品植入。

人工智能对话的本质

当人们使用搜索引擎或社交媒体时,他们开始期待有机内容和赞助内容的混合。从噪声中过滤信号是交互的一部分。

与人工智能助手的对话是有意义的不同。形式是开放式的;用户经常共享上下文并透露比在搜索查询中更多的信息。这种开放性是与人工智能对话变得有价值的部分原因,但也使得它们更容易受到其他数字产品所不易受到的影响。

我们的对话分析与克劳德(以保留所有数据的方式进行)私人和匿名)表明,相当大的一部分涉及敏感或非常个人化的主题,即您可能与值得信赖的顾问进行的对话。许多其他用途涉及复杂的软件工程任务、深度工作或思考难题。在这些背景下出现的广告会让人感觉不协调,而且在许多情况下是不合适的。

关于人工智能模型对使用它们的人的影响,我们还有很多东西需要了解。早期 研究表明既有好处(例如人们找到他们在其他地方无法获得的支持)也有风险,包括模型可能会强化弱势用户的有害信念。在这个阶段引入广告激励措施会增加另一层复杂性。我们的理解模型如何将我们设定的目标转化为具体行为的问题仍在发展中;因此,基于广告的系统可能会产生不可预测的结果。

激励结构

真诚助人是我们的核心原则之一克劳德宪法,该文档描述了我们对克劳德角色的愿景并指导我们如何训练模型。基于广告的商业模式会引入可能违背这一原则的激励措施。

考虑一个具体的例子。一位用户提到他们睡眠困难。没有广告激励的助手会根据用户最有洞察力的内容来探索各种潜在原因——压力、环境、习惯等。支持广告的助手还有一个额外的考虑因素:对话是否提供了进行交易的机会。这些目标可能经常一致,但并非总是一致。而且,与搜索结果列表不同,影响模特反应的广告可能会让人很难判断给定的推荐是否带有商业动机。用户不应该事后猜测人工智能是否真正在帮助他们,或者巧妙地将对话引向可盈利的方向。

即使广告不直接影响人工智能模型的反应,而是单独出现在聊天窗口中,也会损害我们对克劳德的期望:一个清晰的思考和工作空间。此类广告还将引入优化参与度的激励措施——根据人们使用 Claude 的时间和返回的频率。这些指标不一定与真正有帮助有关。最有用的人工智能交互可能是简短的交互,或者是解决用户请求而不提示进一步对话的交互。

我们认识到并非所有广告实施都是等效的。更透明或选择加入的方法(用户明确选择查看赞助内容)可能会避免上述一些问题。但广告支持产品的历史表明,广告激励措施一旦引入,往往会随着时间的推移而扩大,因为它们融入了收入目标和产品开发,从而模糊了曾经更加清晰的界限。我们选择不将这些动态引入克劳德。

我们的方法

Anthropic 专注于企业、开发人员并帮助我们的用户蓬勃发展。我们的商业模式很简单:我们通过企业合同和付费订阅产生收入,并将该收入再投资于为我们的用户改进克劳德。这是一个权衡的选择,我们尊重其他人工智能公司可能合理地得出不同的结论。

扩大克劳德的访问范围是我们公益使命的核心,我们希望在不向广告商出售用户注意力或数据的情况下实现这一目标。为此,我们为教育工作者带来人工智能工具和培训在60多个国家开展国家人工智能教育试点多个 政府,并让克劳德可供非营利组织使用以大幅折扣。我们继续投资于较小的型号,以便我们的免费产品保持在情报的前沿,并且我们可能会考虑较低成本的订阅级别和有明确需求的区域定价。如果我们需要重新审视这种方法,我们将透明地说明这样做的原因。

支持商业

人工智能将越来越多地与商业互动,我们期待以帮助我们的用户的方式支持这一点。我们对代理商务的潜力特别感兴趣,克劳德代表用户处理端到端的购买或预订。我们将继续开发功能,使我们的用户能够在他们选择的情况下查找、比较或购买产品、与企业建立联系等。

我们还在探索更多方法,让 Claude 成为一个专注的空间,让您发挥最大的生产力。用户已经可以连接第三方工具它们在工作中使用(如 Figma、Asana 和 Canva),并直接在 Claude 内与它们交互。我们希望随着时间的推移引入更多有用的集成并扩展该工具包。

所有第三方交互都将基于相同的总体设计原则:它们应该由第三方发起用户(人工智能为他们工作)而不是广告商(人工智能至少部分地为其他人工作)。如今,无论有人要求克劳德研究跑鞋、比较抵押贷款利率,还是为特殊场合推荐一家餐厅,克劳德唯一的动机就是给出有用的答案。我们希望保留这一点。

值得信赖的思考工具

我们希望我们的用户相信 Claude 能够帮助他们不断思考自己的工作、挑战和想法。

我们使用互联网的经验使我们很容易认为我们使用的产品上的广告是不可避免的。但打开笔记本,拿起精心制作的工具,或者站在干净的黑板前,就看不到任何广告。

我们认为克劳德也应该以同样的方式工作。

关于《克劳德是一个思考的空间|人择》的评论

暂无评论

发表评论

摘要

Anthropic 决定使其人工智能助手 Claude 不再有广告,将用户信任和真正的帮助置于广告收入之上。克劳德不会显示赞助商链接或受到广告商影响的响应,从而维护一个没有商业偏见的敏感对话和复杂任务的环境。这种方法符合 Anthropic 对道德人工智能开发和扩大用于教育和非营利目的的人工智能工具的使用的关注。