Apple 的设备上 AI 模型,被称为“Apple Intelligence”的项目将需要 4 GB 的设备存储空间,以后还会需要更多。目前,这大约是一部高清电影的大小。
iBiz 在下个月公开发布 iOS 18.1 之前发布的“iPhone 上的 Apple Intelligence 简介”说明中宣布了其存储要求。届时,Apple Intelligence 正式在 iOS (18.1) 和 macOS (Sequoia 15.1) 上引入。
还有硬件要求:iPhone 16、iPhone 16 Plus、iPhone 16 Pro、iPhone 16 Pro Max、iPhone15 Pro 或 iPhone 15 Pro Max。那些拥有配备 M1 和更高版本 Apple Silicon 的 iPad 和 Mac 机型的用户也可以使用 Apple 的 AI 服务。
iPhone 15 Pro 和 iPhone 16 系列均配备至少 128 GB 的存储空间。
iPhone 15 Pro 和 iPhone 16 系列均配备至少 128 GB 的存储空间。p>
苹果软件测试版的测试版本报告了型号大小的波动,有的超过 5 GB,有的则约为一半。
苹果预计所需的存储空间将随着时间的推移而增加。该公司在脚注中警告称:“随着更多功能的推出,设备上 Apple Intelligence 模型的存储要求将会增加。”但 Apple Intelligence 将不会随着 iOS 18.1 的发布而普遍提供。相反,它将作为测试版服务提供,用户必须在激活前加入等候名单几个小时。一旦服务被激活,就会下载所需的各种神经网络模型。Apple 尚未说明下载的模型在安装后是否可以删除,但用户可能可以选择停用该服务。
Apple 基础模型 (AFM) 是一个约 30 亿参数的生成模型,旨在在移动设备上高效运行,并辅以 Apple 私有云计算基础设施内基于大型服务器的语言模型。还有用于在 Messages 中添加图形的扩散模型和 Xcode 中的编码模型。
Apple 正在将其设备上的 AFM 量化为 4 位或更少,以保持其尺寸较小一些层不太重要,因此仅获得大约 2 位的量化。“平均而言,设备上的 AFM 可以压缩到每重量仅 3.5 位 (bpw),而不会造成明显的质量损失,”苹果公司的学者在一篇详细介绍其工作的论文中解释道。“我们选择在生产中使用 3.7 bpw,因为它已经满足内存要求。”
一般来说,3B 参数模型在 16 位量化时占用约 6 GB 存储空间,在 8 位量化时约占用 3 GB 存储空间。- 位,4 位时约为 1.5 GB。
为了使其 AFM 更加灵活,Apple 使用“适配器”,该公司将其描述为“覆盖在公共基础上的模型权重的小集合”基础模型。”它的人工智能系统会动态加载和卸载这些内容,以提供特定的功能,例如摘要、校对、邮件回复等。据 Apple 研究人员称,每个适配器大约需要 10 兆字节。
最初,Apple Intelligence 的功能将仅限于: