Apple 预留 4 GB 空间用于容纳 iPhone 上的 AI 模型 - 知乎

2024-09-25 13:00:00 英文原文

Apple 将 4 GB iPhone 存储空间用于容纳 AI 模型

随着时间的推移,剥离预计也会变得更大

Apple 的设备上 AI 模型,被称为“Apple Intelligence”的项目将需要 4 GB 的设备存储空间,以后还会需要更多。目前,这大约是一部高清电影的大小。

iBiz 在下个月公开发布 iOS 18.1 之前发布的“iPhone 上的 Apple Intelligence 简介”说明中宣布了其存储要求。届时,Apple Intelligence 正式在 iOS (18.1) 和 macOS (Sequoia 15.1) 上引入。

还有硬件要求:iPhone 16、iPhone 16 Plus、iPhone 16 Pro、iPhone 16 Pro Max、iPhone15 Pro 或 iPhone 15 Pro Max。那些拥有配备 M1 和更高版本 Apple Silicon 的 iPad 和 Mac 机型的用户也可以使用 Apple 的 AI 服务。

iPhone 15 Pro 和 iPhone 16 系列均配备至少 128 GB 的存储空间。

iPhone 15 Pro 和 iPhone 16 系列均配备至少 128 GB 的存储空间。p>

苹果软件测试版的测试版本报告了型号大小的波动,有的超过 5 GB,有的则约为一半。

苹果预计所需的存储空间将随着时间的推移而增加。该公司在脚注中警告称:“随着更多功能的推出,设备上 Apple Intelligence 模型的存储要求将会增加。”但 Apple Intelligence 将不会随着 iOS 18.1 的发布而普遍提供。相反,它将作为测试版服务提供,用户必须在激活前加入等候名单几个小时。一旦服务被激活,就会下载所需的各种神经网络模型。Apple 尚未说明下载的模型在安装后是否可以删除,但用户可能可以选择停用该服务。

Apple 基础模型 (AFM) 是一个约 30 亿参数的生成模型,旨在在移动设备上高效运行,并辅以 Apple 私有云计算基础设施内基于大型服务器的语言模型。还有用于在 Messages 中添加图形的扩散模型和 Xcode 中的编码模型。

  • FBI 突袭美国政府 IT 巨头 Carahsoft 总部
  • 暂时忽略 GenAI一种新型软件开发人员正在诞生
  • 谁在网上最密切地关注着你?Google,废话
  • Elon 最新的 X 实验:被阻止的用户仍然可以跟踪您的公开推文

Apple 正在将其设备上的 AFM 量化为 4 位或更少,以保持其尺寸较小一些层不太重要,因此仅获得大约 2 位的量化。“平均而言,设备上的 AFM 可以压缩到每重量仅 3.5 位 (bpw),而不会造成明显的质量损失,”苹果公司的学者在一篇详细介绍其工作的论文中解释道。“我们选择在生产中使用 3.7 bpw,因为它已经满足内存要求。”

一般来说,3B 参数模型在 16 位量化时占用约 6 GB 存储空间,在 8 位量化时约占用 3 GB 存储空间。- 位,4 位时约为 1.5 GB。

为了使其 AFM 更加灵活,Apple 使用“适配器”,该公司将其描述为“覆盖在公共基础上的模型权重的小集合”基础模型。”它的人工智能系统会动态加载和卸载这些内容,以提供特定的功能,例如摘要、校对、邮件回复等。据 Apple 研究人员称,每个适配器大约需要 10 兆字节。

最初,Apple Intelligence 的功能将仅限于:

  • 编写工具
  • 在照片中进行清理
  • 在照片中创建记忆影片
  • 在照片中进行自然语言搜索
  • 通知摘要
  • 减少干扰焦点
  • 智能突破
关于《Apple 预留 4 GB 空间用于容纳 iPhone 上的 AI 模型 - 知乎》
暂无评论

摘要

苹果将​​ 4 GB 的 iPhone 存储空间用于容纳 AI 模型,随着时间的推移,剥离预计也会变得更大。苹果的设备上 AI 模型(称为 Apple Intelligence)将需要 4 GB 的设备存储空间,以后还会需要更多。届时,Apple Intelligence 正式在 iOS (18.1) 和 macOS (Sequoia 15.1) 上引入。还有硬件要求:iPhone 16、iPhone 16 Plus、iPhone 16 Pro、iPhone 16 Pro Max、iPhone 15 Pro 或 iPhone 15 Pro最大限度。苹果尚未透露下载的模型在安装后是否可以删除,但用户可能可以选择停用该服务。Apple 基础模型 (AFM) 是一个约 30 亿参数的生成模型,旨在在移动设备上高效运行,并由 Apple 私有云计算基础设施内基于大型服务器的语言模型作为补充。平均而言,设备上的 AFM 只能压缩到大约 3.5 位/重量 (bpw),而不会造成显着的质量损失,”苹果的学者在一篇详细介绍其工作的论文中解释道。