克劳德代码现在可以接管你的计算机来完成任务
Anthropic 表示，它已采取适当的保护措施来防止快速注入等常见风险，并且默认情况下会限制对某些“禁区”应用程序（例如“投资和交易平台、加密货币”）的访问。
人为也支持页面上的注释该模型经过训练可以避免“危险操作”，例如转移或投资资金、修改文件、抓取面部图像或输入“敏感数据”。但该公司还警告说，此类培训保障措施“并不完美”且“并非绝对”，这意味着“克劳德有时可能会超出这些界限。”
Anthropic 还警告说，当激活计算机使用时，克劳德将能够看到屏幕上的任何可见内容，包括“个人数据、敏感文档或私人信息”。出于所有这些原因，该公司建议“在研究预览阶段从您信任的应用程序开始，不要使用敏感数据”。
Anthropic 的公告是在推出几周后发布的Perplexity 的个人电脑,马努斯的我的电脑, 和Nvidia 的 NemoClaw，同样让他们的人工智能代理直接控制桌面。所有这些企业举措都遵循OpenClaw 的病毒式传播今年早些时候，这导致 OpenAI聘请 OpenClaw 创始人 Peter SteinBerger– 推动下一代个人代理。 –
关于《克劳德代码现在可以接管你的计算机来完成任务》的评论
暂无评论
发表评论
摘要
Anthropic 已实施保护措施来防止提示注入等风险，并限制默认情况下对某些处理敏感信息的应用程序的访问。该模型经过训练可以避免金融交易、文件修改和数据输入等风险操作，尽管这些保护措施并不完美。用户被警告说，克劳德可以在计算机使用激活期间看到屏幕上的内容，包括个人数据。Anthropic 建议用户从可信应用程序开始，并在研究预览阶段避免使用敏感数据。在此之前，Perplexity、Manus、Nvidia 和 OpenAI 最近发布了类似的 AI 桌面控制技术。