BI发现，AI缩放AI暴露了有关Meta和XAI等客户的敏感数据

元的143亿美元投资，泄漏的文件和初创公司自己的承包商表明它有一些严重的安全孔。Scaile AI通常使用公共Google文档来跟踪诸如Google，Meta和Xai之类的备受瞩目的客户的工作，留下多个AI培训文档，标有“机密”，可访问具有链接的任何人。

承包商告诉BI，该公司依靠Google文档共享内部文件，这种方法对其至少有240,000个承包商的大军有效，并提出了明显的网络安全和机密性风险。

Scale AI还将Google Docs留下了有关数千个承包商的敏感细节，包括其私人电子邮件地址以及是否涉嫌“作弊”。

这些文件中的一些可以由具有正确URL的任何人查看和编辑。

没有迹象表明AI因此遭受了违规。两位网络安全专家告诉BI，此类实践可能会使公司及其客户容易受到各种黑客攻击，例如，涉嫌黑客攻击承包商或将恶意软件上传到可访问的文件中。

Scale AI告诉Business Insider，它将认真对待数据安全，并正在研究此事。

AI发言人说：“我们正在进行彻底的调查，并削弱了任何用户从规模管理的系统中公开共享文件的能力。”“我们仍然致力于强大的技术和政策保护措施，以保护机密信息，并一直致力于加强我们的实践。”

梅塔拒绝发表评论。Google和XAI没有回应置评请求。

在Meta的大片投资之后，诸如Google，OpenAI和XAI之类的客户pa。在博客中邮政上周，规模向大型技术客户保证，它仍然是具有严格安全标准的中立和独立合作伙伴。

该公司表示，“确保客户信任已经并且将永远是重中之重”，并且具有“保护客户的机密信息的强大技术和政策保障”。

BI的调查结果提出了有关它是否足够确保安全性以及Meta在撰写支票之前是否知道该问题的问题。

机密AI项目可访问

BI能够查看数千页的项目文档，其中包括85个单独的Google文档，以扩展AI与大型技术客户的工作。这些文档包括敏感细节，例如Google使用Chatgpt改善了自己的挣扎聊天机器人，然后称为吟游诗人。

Scale还使公众至少七份由Google标记为“机密”的说明手册，该手册都可以访问该链接的任何人。这些文件阐明了bard的Google认为是什么问题 - 它很难回答复杂的问题以及规模承包商应该如何解决。

对于埃隆·马斯克（Elon Musk）的XAI，截至4月起，规模至少进行了10个生成AI项目，公共Google文档和电子表格显示“木琴项目”的详细信息，BI本月初报告。培训文件和700个对话提示的列表揭示了该项目如何着重于提高AI的对话技能，从僵尸启示录到管道。

Meta培训文件在顶部标有机密，也被公开交给了具有该链接的任何人。其中包括指向可访问的音频文件的链接，其中包含“好”和“坏”语音提示的示例，这表明标准在其AI产品中设置了表达性。

其中一些项目专注于培训元机器人的聊天机器人更多的对话和情感上的吸引力BI先前报道，在确保他们安全处理敏感主题的同时。截至4月，META至少有21个具有规模的生成AI项目。

BI采访的几个规模的AI承包商说，即使他们是代号为代号，通常是由于任务的性质或指令的方式，他们也很容易弄清楚他们工作的客户。有时甚至更容易：BI看到的一个演示文稿有Google的徽标。

即使是要被匿名化的项目，不同项目的承包商也会立即识别客户或产品。承包商说，在某些情况下，只需提示模型或直接询问它的哪个聊天机器人将显示基础客户。

扩展AI左承包商信息公开

其他Google文档暴露了有关Scale承包商的敏感个人信息。BI审查了未锁定的电子表格，并列出了成千上万工人的名称和私人Gmail地址。BI联系的一些人说，他们惊讶地发现，了解文件URL的任何人都可以访问他们的详细信息。

许多文件包括有关其工作表现的详细信息。

一个名为“好人和坏人”的电子表格将数十名工人归类为“高质量”或怀疑“作弊”。数百个个人电子邮件地址的另一个列表标题为“移动所有作弊警察”，该地址还标记了“可疑行为”的工人。

另一张表格命名了将近1,000名承包商“错误地禁止”了AI的平台。

其他文件显示了支付多少个个人承包商，以及有关付款纠纷和差异的详细说明。

该系统似乎“令人难以置信的笨蛋”

从事单独项目的五个当前和以前的AI承包商告诉BI，全公司的使用广泛使用Google文档。

承包商说，使用它们简化了规模的操作，这主要依靠自由贡献者。管理每个承包商的个人访问权限将减慢过程。

承包商告诉BI，缩放AI的内部平台要求工人有时使用相机来验证自己。

同时，可以通过公共链接或其他文档中的链接访问许多包含有关培训AI模型信息的文档，而无需验证。

一位工人说：“整个Google Docs系统似乎总是令人难以置信的Janky。”

另外两名工人表示，他们保留了不再从事的旧项目的访问权限，有时会通过客户公司的请求进行更新，以了解如何培训模型。

“当然很危险”

哥伦比亚大学网络安全讲师约瑟夫·斯坦伯格（Joseph Steinberg）告诉BI，通过公共Google文档组织内部工作可能会产生严重的网络安全风险。

他说：“当然，这很危险。在最佳情况下，它只是实现社会工程学。”

社会工程是指黑客欺骗员工或承包商放弃访问权限的攻击，通常是通过冒充公司内某人而放弃访问权限。

斯坦伯格说，留下大约成千上万的承包商易于访问的细节为这种违规带来了许多机会。

同时，对安全性进行更多的投资可以减慢面向增长的初创公司。

斯坦伯格说：“实际上花费时间做安全性的公司经常损失，因为其他公司在市场上行驶得更快。”

网络公司Trace3的区域总监Stephanie Kurtz告诉BI，某些Google文档是由任何人都可以编辑的事实，例如不好的演员将恶意链接插入文档中，以供其他人单击。

Kurtz补充说，公司应该从通过邀请来管理访问开始。

她说：“把它放在那里，希望有人没有链接，这不是一个很好的策略。”

有小费吗？通过电子邮件联系此记者crollet@insider.com或信号和whatsapp628-282-2811。使用个人电子邮件地址和非工作设备；这是我们安全共享信息的指南。