本文是与 Varonis 的 Nathan Coppinger 和 Salesforce 杰出安全架构师 Mike Smith 合作撰写的。它涵盖了 Salesforce Einstein Copilots 安全模型的工作原理以及为确保安全可靠的部署而必须降低的风险。
Salesforce 正在向热切期待的客户正式推出 Einstein Copilot。这款新的对话式人工智能助手将彻底改变销售、营销和客户服务代理与客户互动以及访问 CRM 工具中的内部文档的方式。
Einstein Copilot 可以理解自然语言查询来回答问题、提供见解和在 Salesforce 中执行任务，以帮助简化日常流程并提高工作效率。
新的 AI 将带来工作效率的巨大飞跃并简化流程，但它也会带来风险，您必须采取必要的步骤来缓解。
在本博客中，我们将讨论：
一些Einstein Copilot 的关键用例包括：
所有这一切用户可以使用简单的语言进行简单的提示即可完成。
以下是 Einstein Copilot 如何处理提示的简单概述：
Salesforce 致力于保护客户通过 Einstein Copilot 处理的数据。为此，他们开发了 Einstein 信任层。
流经 Einstein Copilot 的客户数据在信任层内进行加密，并且所有数据都不会保留在后端。任何敏感数据（例如 PII、PCI 和 PHI）也会被屏蔽。
Einstein Trust Layer 还将尝试通过其有毒语言检测功能来减少有偏见、有毒和不道德的反应，从而减轻负担
Salesforce 已声明不会使用客户数据来培训 Einstein Copilot 背后的大语言模型，也不会将其出售给第三方。
Salesforce 安全性的关键组成部分之一是其共同责任模型。共担责任模型定义了 Salesforce 及其客户在数据、人工智能和整个平台的安全使用方面的角色和责任。
在此模型中，Salesforce 负责保护基础设施、平台和平台的安全。支持 AI 的服务（如 Einstein 信任层所示）以及通过 Einstein Copilot 安全处理客户数据。
同时，客户有责任保护连接到 AI 的应用程序和配置的安全，包括：
这可以确保双方共同努力，形成最高级别的安全和信任。
p>
Einstein Copilot 继承 Salesforce 用户的访问权限和权限，因此其通过锁定关键数据来降低风险势在必行，确保每个用户（以及 Einstein Copilot）只能访问他们完成工作所需的内容。
要了解每个用户的权限，您需要解析他们的：
但是，Salesforce 权限非常复杂，需要花费大量精力来分析和理解，特别是考虑到大型企业可能拥有多达 1,000 个权限集，每个权限集有数十个权限。
最重要的是，安全团队必须依靠 Salesforce 团队来帮助他们完成此过程，并且由于 Salesforce 管理员忙于保持业务运行，因此完成此过程可能会令人难以承受。
Einstein Copilot 依靠您的内部文档和数据来根据有用的上下文来生成人工智能提示，并提供准确且相关的信息。
正如 Salesforce 所说，优秀的人工智能始于出色的数据。
Einstein Copilot 从 Salesforce 数据云中提取数据，该云统一了多个数据源，包括您的 Salesforce 环境和云存储（例如 AWS 和 Snowflake）。
数据是生成人工智能的真相来源，为了确保最佳的 Einstein Copilot 体验并降低产生幻觉的风险，您的数据需要：
除了确保您的权限被锁定和正确之外，您还应该在整个过程中执行初步记录和文档审查Einstein Copilot 从中提取并更新或清除过时、过时和不准确信息的数据存储。
然后，您可以设置定期审核流程，以保持内部文档干净且最新.
您的环境中肯定存在您不希望 Einstein Copilot 接受培训或从中得出答案的数据；借助 Salesforce，您可以创建区域来隔离您不希望 Einstein Copilot 访问的数据。但是，由客户决定数据是什么以及数据存放在哪里。
从支持到营销的许多部门都将使用 Einstein Copilot 来生成客户和面向公众的内容。然而，正如我们之前提到的，AI 输出的质量和准确性通常取决于输入的质量。
Salesforce 的 Prompt Builder 可确保您的用户从 AI 中生成正确的响应。此功能使管理员能够为工作流程中的特定流程（例如客户支持响应）设置护栏，以确保适当、切题且高质量的 AI 输出。
提示生成器将为用户提供使用一个模板输入 Einstein Copilot，动态地根据客户名称、帐户、上下文和相关文章等信息来提示提示，这些信息可能会进一步帮助人工智能做出响应。
这也将帮助您防止提示注入攻击，其中恶意行为者试图提供指令，欺骗模型给出不应有的响应。
在启动 AI 之前在与 Einstein Copilot 的旅程中，您必须了解 Salesforce 安全状况并确保您的数据为安全、顺利的部署做好准备。
Varonis 数据安全平台可帮助组织全面了解其 Salesforce 安全状况通过：
Varonis 可以帮助您的组织为安全、顺利的 Einstein Copilot 部署做好准备。
立即申请演示并开始进行补充性 Salesforce 风险评估。入门免费且简单，结果由您保留。
本文最初出现在 Varonis 博客上。
由 Varonis 赞助和撰写。