Apple 在 NeurIPS 2024 上的机器学习研究
2024-12-07 04:19:44
Apple 出席神经信息处理系统 (NeurIPS) 会议,突显了其致力于通过创新研究推进机器学习的决心。以下是 Apple 贡献的一些关键要点:### 以隐私为中心的研究**1.全球屏障和感应便签本:**- **研究重点:** 本文探讨了为什么基于 Transformer 的模型难以完成需要全局推理的任务,其中需要结合学习的概念和外推法。- **关键见解:** 研究表明,这些模型无法有效地学习具有高全局性的分布,这意味着处理复杂逻辑链的局限性(例如,从 \(a \rightarrow b\) 推断 \(a \rightarrow c\)和 \(b \rightarrow c\))。- **解决方案建议:** 引入“感应暂存器”的概念是为了使变压器能够克服这些限制。### 表征学习**2.JEPA 如何避免嘈杂的功能:**- **研究重点:** 这项研究探讨了深度线性自蒸馏网络中的隐式偏差,重点关注联合嵌入预测架构(JEPA)和掩码自动编码器(MAE)如何学习表示。- **关键见解:** 在简化的线性设置中,JEPA 更喜欢学习以高回归系数为特征的“高影响力”特征,这有助于解释为什么 JEPA 倾向于优先考虑抽象特征而不是细粒度像素信息。### 设备上训练和推理**3.MLX 框架:**- **研究重点:** MLX 是一个针对 Apple 芯片统一内存架构进行优化的开源框架,可在 Apple 设备上实现高效的机器学习。- **NeurIPS 的关键演示:**- 在 iPhone 上微调 7B 参数语言模型 (LLM)。- 在 iPad 上使用大型扩散模型生成图像。- 在配备 Apple 芯片的 Mac 上使用各种大型语言模型生成文本。### 适合移动设备的模型**4.MobileClip 架构:**- **研究重点:** 一系列适合移动设备的图像文本模型,结合了混合 CNN/Transformer 架构,专为高效的零样本场景分类和检索任务而设计。- **主要特点:**- 在零样本分类、检索、理解关系、属性和订单信息方面实现最先进的结果。- 在 NeurIPS 期间展示了 iPhone 上实时场景分类的性能。### 社区支持**5.亲和团体赞助:**- **对代表性不足群体的支持:** Apple 支持多个在 NeurIPS 举办活动的亲和团体,包括:- AI 中的 Black(12 月 10 日研讨会)- 机器学习中的女性 (WiML)(12 月 10 日研讨会)- AI 中的 LatinX(12 月 10 日研讨会)- AI 中的酷儿(研讨会于 12 月 11 日,社交于 12 月 12 日)### 隐私设计苹果对隐私的承诺是影响研究和产品设计的核心价值观。该公司强调用户数据保护的重要性,同时努力改善用户体验。### 结论Apple 参与 NeurIPS 反映出其在推进机器学习技术方面的持续努力,特别是关注隐私保护方法、高效的设备上计算和包容性社区支持。通过这些贡献,Apple 旨在培育更加公平和创新的 ML 研究环境。