人工智能浏览器可能会使用户一文不名：迅速的注射警告

人工智能（AI）浏览器正在获得吸引力，这意味着我们可能需要开始担心所谓的迅速注入的潜在危险。

大型语言模型（LLMS）就像为AI聊天机器人提供动力的那些模型，包括Chatgpt，Claude和Geminiâ旨在遵循提示，这是人们在查找信息或获得主题帮助时提供的指示和问题。在聊天机器人中，您问AI的问题是提示。不写勒索软件）来自用户的请求类型。

为了展示这里的风险，Web浏览器开发人员Braveâ拥有自己的AI助手Leoâ最近测试了它是否可以欺骗AI浏览器来阅读危险的提示，从而损害用户。公司发现的是什么引起了警报，就像他们在本周博客：

随着用户对AI浏览器的满意，并开始使用敏感的数据来登录的会议，例如银行，医疗保健和其他关键网站的敏感数据，风险会增加。如果模型幻觉并执行您没有要求的操作怎么办？更糟糕的是，如果看起来像良性的网站或社交媒体网站上留下的评论可以通过为AI助手添加隐形说明来窃取您的登录凭据或其他敏感数据呢？

因此，迅速注射基本上是一个窍门，有人以普通对话或数据的形式插入精心制作的输入，以推动或直接迫使AI做某件事。

设定的促使注射与老式黑客攻击之处在于，这里的武器是语言，而不是代码。攻击者不需要闯入服务器或寻找传统的软件错误，他们只需要巧妙地说单词即可。

对于AI浏览器，输入的一部分是它访问的站点的内容。因此，可以通过将恶意指令嵌入到人类用户无害或看不见的内容中，但由AI浏览器作为其命令上下文的一部分处理，可以隐藏网页中的间接提示。

现在，我们需要定义AI浏览器和代理浏览器之间的差异。AI浏览器是使用人工智能来帮助用户的任何浏览器。这可能意味着回答问题，总结文章，提出建议或帮助进行搜索。这些工具支持用户，但通常需要一些手动指导，并且仍然依靠用户批准或完成任务。

但是，最近，我们看到了代理浏览器的兴起，这是一种由人工智能提供支持的新型Web浏览器，旨在做不仅仅是显示网站。这些浏览器旨在实际接管整个工作流程，几乎没有或没有用户干预执行复杂的多步任务，这意味着它们实际上可以使用并与站点进行交互以为用户执行任务，就像拥有在线助手一样。代理浏览器无需等待点击和手动说明，而是根据用户想要完成的操作，独自自行浏览网页，填写表格，购买或预约。

例如，当您告诉您的代理浏览器时，请在下个月飞往巴黎的最便宜的航班并预订它，浏览器将进行所有研究，比较价格，填写乘客详细信息，并在没有任何额外的步骤或手动努力的情况下完成预订，但这当然是所有必要的详细信息，这是用户的一部分，这些详细信息是用户的一部分。

您是否在这里看到迅速注射的潜在危险？

如果我的代理浏览器在访问网站时会获得新的细节怎么办？我可以想象，犯罪分子建立一个以极具竞争力的定价来吸引访客的网站，但真正的目标是提取代理浏览器需要代表您进行购买的付款信息。您最终可能会为他人去法国的假期付费。

在他们的研究期间，Brave发现，困惑的彗星具有一些漏洞，这些脆弱性强调了浏览器中代理AI实施所面临的安全挑战。”

漏洞允许基于间接提示注入的攻击，这意味着恶意说明嵌入了外部内容（例如网站或PDF）中，该浏览器AI助手处理是满足用户请求的一部分。有多种将恶意内容隐藏在随意检查中的方法。Brave在白色背景上使用白色文本的示例，AI浏览器毫无问题地阅读，而没有仔细检查就不会看到人类。

到引用用户x：

您可以从字面上及时注射，您的银行帐户因doomscrolling on Reddit'而排出

为了防止这种类型的提示注射，必须了解代理浏览器，以了解用户提供的说明和处理的Web内容之间的差异，以实现说明并相应地对待它们。

困惑试图两次解决勇敢的报道的漏洞，但截至该报告时，它仍然没有完全缓解这种攻击。

安全使用代理浏览器

虽然总是很想使用最新的小工具会带来一定的风险。为了限制使用代理浏览器时的风险：

• 对许可谨慎：仅在必要时才授予对敏感信息或系统控件的访问。查看代理浏览器可以在可能的情况下访问和限制权限的数据或帐户。
• 在信任链接或命令之前验证来源： - 避免让浏览器自动与陌生网站或内容进行交互。仔细检查URL，并警惕突然的重定向或意外输入请求。
• 保持软件更新：â确保代理浏览器和相关的AI工具始终运行最新版本，以从安全补丁中受益和改进，以防止注射漏洞。
• 使用强大的身份验证和监视：保护与具有多因素身份验证的代理浏览器连接的帐户，并定期审查活动日志，以尽早发现异常行为。
• 教育自己及时注射风险：•了解最新的威胁和最佳实践，以实现安全AI互动的最佳实践。意识到是防止剥削的第一步。
• 限制敏感操作自动化：`避免在没有手动审查的情况下完全自动化高风险交易或操作。代理浏览器应提供帮助，但关键决策受益于人类的监督。例如：限制未经您明确许可的情况，它可以花费的金额，或者始终要求您授权付款。
• 报告可疑行为：`如果代理浏览器不可预测或要求奇怪的许可，请立即向开发商或安全团队报告。

我们不只是报告威胁，我们将其删除

网络安全风险绝不应超出标题。通过远离设备的威胁 今天下载恶意软件。