多年来，使用“免费”服务的成本谷歌,脸书,微软和其他大型科技公司已经移交了您的数据。将您的生活上传到云端并使用免费技术带来了便利，但它将个人信息置于通常希望将其货币化的大公司手中。现在，下一波生成式人工智能系统可能需要比以往更多地访问您的数据。

在过去的两年里，生成式人工智能工具（例如开放人工智能— 的聊天GPT和 Google 的双子座– 已经超越了公司最初发布的相对简单的纯文本聊天机器人。相反，大人工智能正在越来越多地构建并推动采用代理人和“助理”承诺他们可以代表您采取行动并完成任务。问题？为了充分利用他们，您需要授予他们访问您的系统和数据的权限。虽然关于大型语言模型 (LLM) 的最初争议主要是在线公然复制受版权保护的数据，但人工智能代理访问您的个人数据可能会导致一系列新的问题。

“人工智能代理为了获得完整的功能，为了能够访问应用程序，通常需要访问操作系统或运行它们的设备的操作系统级别，”Ada Lovelace 研究所的高级研究员 Harry Farmer 说，他的工作包括研究AI助手的影响并发现它们可能对网络安全和隐私造成“严重威胁”。法默说，对于聊天机器人或助手的个性化，可能需要进行数据权衡。“所有这些事情为了发挥作用，需要大量关于你的信息，”他说。

虽然人工智能代理实际上是什么没有严格的定义，但它们通常最好被认为是生成人工智能系统或已授予的法学硕士一定程度的自主权。目前，代理人或助理，包括人工智能网络浏览器，可以控制您的设备并为您浏览网页、预订航班、进行研究或添加商品到购物车。有些可以完成任务，包括几十个的各个步骤。

虽然当前的人工智能代理存在故障并且常常无法完成任务他们已经准备好做，科技公司押注该系统将从根本上改变随着数百万人的能力变得更强，他们将失去工作。它们的实用性的一个关键部分可能来自对数据的访问。因此，如果您想要一个可以为您提供日程安排和任务的系统，则它需要访问您的日历、消息、电子邮件等。

一些更先进的人工智能产品和功能可以让我们了解可以给予代理和系统多少访问权限。为企业开发的某些代理可以读代码、电子邮件、数据库、Slack 消息、存储在 Google Drive 中的文件等等。微软备受争议的召回事件产品每隔几秒钟就会截取一次桌面屏幕截图，以便您可以搜索您在设备上所做的所有操作。Tinder 创建了一项 AI 功能，可以通过照片搜索在您的手机上 — 更好地了解 — 用户 — 兴趣和个性。 —

牛津大学作家兼副教授 Carissa Véliz 表示，大多数时候，消费者没有真正的方法来检查人工智能或科技公司是否按照他们声称的方式处理他们的数据。“这些公司对数据的态度非常混乱，”Véliz 说。“他们表现得不太尊重隐私。”