加入我们的每日和每周时事通讯，了解有关行业领先人工智能报道的最新更新和独家内容。了解更多
土坯研究人员创建了一种突破性的人工智能系统，可以在没有互联网连接的情况下直接在智能手机上处理文档，这可能会改变企业处理敏感信息的方式以及消费者与其设备交互的方式。
该系统称为苗条LM，代表了人工智能部署的重大转变——从大规模云计算中心转移到用户口袋里的手机上。在三星最新产品的测试中银河S24，SlimLM 证明它可以分析文档、生成摘要并回答复杂的问题，同时完全在设备硬件上运行。
“虽然大型语言模型已经引起了极大的关注，但小语言模型在真实移动设备上的实际实现和性能仍然没有得到充分研究，尽管它们在消费者技术中越来越重要，”由 Adobe Research 科学家领导的研究团队解释道、奥本大学和佐治亚理工学院。
小语言模型如何颠覆云计算现状
苗条LM在科技行业向边缘计算转变的关键时刻出现，边缘计算是一种数据在创建的地方进行处理的模型，而不是在遥远的数据中心。谷歌、苹果和 Meta 等主要厂商一直在竞相将人工智能推向移动设备，谷歌推出了双子座纳米适用于 Android 和 Meta 工作骆马-3.2，两者都旨在为智能手机带来先进的语言功能。
SlimLM 的与众不同之处在于它针对实际使用进行的精确优化。研究团队测试了各种配置，发现他们的最小模型 - 只有 1.25 亿个参数，与诸如此类的模型相比GPT-4o，其中包含数千亿个单词 - 可以在智能手机上有效处理长达 800 个单词的文档。更大的 SlimLM 变体，可扩展至 10 亿个参数，也能够接近资源密集型模型的性能，同时仍然保持在移动硬件上的平稳运行。
这种在设备上运行复杂的人工智能模型而不牺牲太多性能的能力可能会改变游戏规则。研究人员写道：“我们最小的型号在[三星 Galaxy S24] 上展示了高效的性能，而较大的型号则在移动限制范围内提供了增强的功能。”
为什么设备端人工智能可以重塑企业计算和数据隐私
SlimLM 的商业影响远远超出了技术成就。企业目前在基于云的人工智能解决方案上花费了数百万美元，为 API 调用服务付费，例如开放人工智能或者人择处理文档、回答问题并生成报告。SlimLM 提出，未来大部分工作可以在智能手机上本地完成，从而显着降低成本，同时提高数据隐私。
处理敏感信息的行业（例如医疗保健提供者、律师事务所和金融机构）将受益最大。通过直接在设备上处理数据，公司可以避免将机密信息发送到云服务器相关的风险。这种设备上处理还有助于确保遵守严格的数据保护法规，例如通用数据保护条例和健康保险流通与责任法案。
“我们的研究结果提供了宝贵的见解，并阐明了在高端智能手机上运行高级语言模型的能力，有可能降低服务器成本并通过设备上处理增强隐私，”该团队在论文中指出。
技术内部：研究人员如何让人工智能在没有云的情况下工作
背后的技术突破苗条LM关键在于研究人员如何重新思考语言模型来满足移动设备的硬件限制。他们不是仅仅缩小现有的大型模型，而是进行了一系列实验，以找到模型大小、上下文长度和推理时间之间的“最佳点”，确保模型能够在不使移动处理器超载的情况下提供真实世界的性能。
另一个关键创新是 DocAssist 的创建，这是一个专门的数据集，旨在训练 SlimLM 执行摘要和问答等文档相关任务。该团队没有依赖通用的互联网数据，而是量身定制了培训，重点关注实际业务应用，使 SlimLM 能够高效地完成专业环境中最重要的任务。
人工智能的未来：为什么你的下一个数字助理可能不需要互联网
SlimLM 的开发预示着未来复杂的人工智能不需要持续的云连接，这一转变可以使人工智能工具的访问民主化，同时解决人们对数据隐私和云计算高成本日益增长的担忧。
考虑潜在的应用：智能手机可以智能地处理电子邮件、分析文档和协助写作，而无需将敏感数据发送到外部服务器。这可能会改变法律、医疗保健和金融等行业的专业人士与其移动设备互动的方式。这不仅涉及隐私，还涉及隐私。它是关于创建更具弹性和可访问性的人工智能系统，无论互联网连接如何，都可以在任何地方工作。
对于更广泛的科技行业来说，SlimLM 代表了主导人工智能开发的“越大越好”心态的一个令人信服的替代方案。尽管 OpenAI 等公司正在推动万亿参数模型的发展，但 Adobe 的研究表明，更小、更高效的模型在针对特定任务进行优化后仍然可以提供令人印象深刻的结果。
云依赖的终结？这
（即将）公开发布SlimLM 的代码和训练数据集可以加速这一转变，使开发人员能够为移动设备构建保护隐私的人工智能应用程序。随着智能手机处理器的不断发展，基于云的人工智能处理和设备上的人工智能处理之间的平衡可能会急剧向本地计算倾斜。
SlimLM 提供的不仅仅是人工智能技术的又一个进步；这是我们思考人工智能的新范式。人工智能的未来可以是个性化的，可以直接在你口袋里的设备上运行，保护隐私，并减少对云计算基础设施的依赖，而不是依赖庞大的服务器场和持续的互联网连接。
这一发展标志着人工智能发展新篇章的开始。随着技术的成熟，我们可能很快就会回顾基于云的人工智能作为一个过渡阶段，真正的革命是人工智能变得小到足以装进我们口袋的那一刻。