2024-09-11 20:38:43 英文原文
<正文>迄今为止，生成式人工智能的繁荣在很多方面都造成了隐私的破坏，因为服务大量吸收网络数据来训练机器学习模型，而用户的个人信息面临着潜在威胁和暴露的新时代。随着本月苹果 iOS 18 和 macOS Sequoia 的发布，该公司也加入了这场竞争，推出了 Apple Intelligence，该公司表示，Apple Intelligence 最终将成为其生态系统中的一项基础服务。但苹果因优先考虑隐私和安全而享有盛誉，因此该公司采取了重大举措。它开发了广泛的自定义基础设施和透明功能，称为私有云计算 (PCC)，供 Apple Intelligence 在系统无法在用户设备上本地完成查询时使用的云服务。
设备上数据处理或本地处理的优点在于，它限制了攻击者窃取用户数据的路径。数据永远不会离开计算机或手机，因此这就是攻击者必须瞄准的目标。这并不意味着攻击永远不会成功，但战场是明确的和有限的。将数据提供给公司在云中处理本质上并不是一个安全问题——每天都有大量数据安全地通过全球云基础设施传输。但它极大地扩大了战场，也为无意中暴露数据的错误创造了更多机会。考虑到负责生成内容的系统可能会以意想不到的方式访问和共享信息，后者尤其成为生成式人工智能的一个问题。
通过私有云计算，Apple 开发了一系列创新的云安全技术。但该服务对于突破云服务可接受的业务主张的极限也具有重要意义，似乎优先考虑安全架构而不是技术上最高效或最经济的架构。
我们从一开始就设定了一个目标，即如何将我们通过 iPhone 设备上处理建立的隐私保证扩展到云端，这就是我们的使命宣言。”软件工程高级副总裁 Craig Federighi苹果公司告诉《连线》杂志，我们在各个层面都取得了突破，但我们所做的一切已经实现了我们的目标。
为了消除云计算可能引入的许多潜在攻击点和陷阱，苹果公司表示，其开发人员关注的理念是，当安全和隐私保证完全在技术上可执行而不是通过策略实施时，安全和隐私保证才是最强的。
换句话说，你可以在柜台上放一盘纸杯蛋糕，并为自己制定一个政策，你不会吃其中任何一个。或者你可以制定一项政策，规定你从不制作或购买纸杯蛋糕。但私有云计算的方法是搬到一个没有面包店的城镇，拆掉你的厨房，并关闭你的信用卡，以防止你自己购买 Easy Bake Ovens。这样就不会出现关于您获取纸杯蛋糕或意外囤积纸杯蛋糕的可能性的问题。
Apple 为 PCC 创建了运行 Apple 处理器的专用服务器，并开发了自定义 PCC 服务器操作系统，该操作系统是 iOS 和 macOS 的精简混合版本。该方案融合了该公司在过去二十年中为 Mac 和 iPhone 开发的硬件和软件安全功能。
不过，与这些消费设备不同的是，PCC 服务器尽可能简单。例如，它们不包含持久存储，这意味着它们没有可以长期保存已处理数据的硬盘驱动器。它们确实结合了 Apple 的专用硬件加密密钥管理器（称为 Secure Enclave），并在每次启动时随机化每个文件系统的加密密钥。这意味着一旦 PCC 服务器重新启动，就不会保留任何数据，并且作为额外的预防措施，整个系统卷在加密上是不可恢复的。此时，服务器所能做的就是使用新的加密密钥重新开始。
PCC 服务器还使用 Apple 的安全启动来验证操作系统的完整性，并使用该公司在 iOS 17 中首次推出的代码验证功能（称为可信执行监视器）。不过，PCC 并没有以通常的方式使用可信执行监视器进行监督，而是以更严格的模式运行它，一旦服务器重新启动并完成启动序列，系统就会锁定并且无法加载任何新代码。本质上，服务器运行所需的所有软件都会经过检查和验证，然后放入一个密封的信封中，然后用户请求和数据才能开始处理。更广泛地说，Apple 表示它完全取代了 PCC 的常规服务器管理工具。例如，大多数云平台都有策略和控制措施来防止未经授权的访问，但它们也构建了紧急情况下的中断类型选项，因此高度可信的系统管理员帐户可以在出现错误或故障时快速采取行动。为了与 Apple 注重技术上可执行的保证与策略保证保持一致，PCC 不允许特权访问，并极大地限制了远程管理选项。
近年来，苹果采取了重大安全措施，为用户提供 iCloud 备份端到端加密，该公司只是将数据保存在其客户的云基础设施中，并且不具备技术能力解密并读取该数据。以目前的技术而言，这样的方案对于生成式人工智能来说是不可能实现的，因为系统需要处理输入以给出输出。例如，如果您希望 Apple Intelligence 向您提供过去三个小时内收到的所有短信和电子邮件的摘要，则系统需要访问这些消息。端到端加密将使这种访问几乎不可能。苹果表示，它仍然致力于在设备上进行尽可能多的 Apple Intelligence 处理，例如，配备 A18 芯片的全新 iPhone 16 将能够比配备 A18 芯片的 iPhone 15 在本地进行更多的 AI 处理。A16芯片。尽管如此，现实似乎是苹果需要在云端进行大量的苹果情报处理，因此需要投资开发 PCC。（在 iOS 18.1 中，用户可以前往“设置”