自主系统的新时代将需要在更接近数据源的地方进行快速的数据处理。这使得一些首席信息官将在他们的2025年路线图中添加边缘计算的AI技术。
分析师预测即将来临的企业人工智能阶段将带来几乎不需要人工干预的代理系统,根据Gartner最近的一份报告,今年有75%的CIO增加了他们的AI预算。随着生成式AI嵌入到更多设备中,赋予它自主决策将依赖于实时数据并避免产生过高的云成本。这就是边缘计算发挥作用的地方。
通过在更靠近数据源的地方处理数据,边缘计算可以加快决策速度并减少成本,通过最小化数据传输,使其成为吸引人工智能的环境。“边缘计算正在迅速发展,从一个有前景的概念演变为许多行业的关键工具,”前白宫首席信息官、网络安全公司Fortalice Solutions创始人Theresa Payton说。“到2025年,边缘计算将变得更加普及,尤其是随着人工智能和物联网的发展。”
Dairyland电力合作社,一家总部位于威斯康星州的供电公司,例如,拥有转向了生成式AI为了改进该领域的基础设施优化和性能。AI使边缘计算对CIO更加相关,因为它帮助我们减少处理数据时的延迟。在追求实时处理的情况下,这可以成为一个巨大的优势,”该公司副总裁兼首席信息官Nate Melby表示。
其他人也认为,随着大规模部署人工智能,增加边缘处理将自然地出现。“随着AI应用程序在关键任务的企业用例中广泛使用,其中一些AI应用程序将迁移到边缘,”分布式云计算平台公司Akamai的执行副总裁兼首席技术官Robert Blumofe说。“边缘计算可以减少延迟、降低成本并降低数据暴露风险。”
但企业在通用人工智能方面却经历了极高的炒作,实际上并不多附加值用例分析师戳破泡沫,一些科技领袖则选择退出。最近围绕人工智能的兴趣减缓让AVOA的首席信息官战略顾问Tim Crawford警告领导者要进行理性的投资。不过,他仍然看到许多由效率驱动的机会以及某些边缘应用,这使得该领域值得探索。
边缘上的CIO们
近年来,人们对边缘计算的兴趣与日俱增。据估计,在2024年,全球在边缘计算上的支出增加了14%。IDC兴趣的一个主要驱动因素是将人工智能应用于实际使用中,这需要结合低延迟和隐私保护,而边缘计算在这方面表现出色。
“我们看到边缘计算的使用迅速扩大,”Blumofe说。“我们在自己的应用程序中使用它,客户也越来越倾向于将其用于他们的应用。”展望2025年,更多的CIO计划在边缘实施人工智能。
“明年,我们的组织计划利用边缘计算来帮助提升运营决策智能,并改善我们向智能资产发展的轨迹,”梅尔比补充道。在他们的领域,人工智能和边缘计算已成为实现下一代高度智能化工业数字运营的必要条件。他说,这对于建立一个新的、网络化的和动态的能源生态系统至关重要。
根据Fortalice Solutions的Payton的说法,将数据处理移近其创建的位置对需要即时行动和实时洞察的应用程序尤其有益,无论是零售、制造业还是客户体验。“优先考虑实时决策和数据处理的组织应计划在2025年及以后的战略规划中拥抱边缘计算。”她说。
AI和边缘计算,携手共进
边缘计算是在数据收集和需要处理的端点进行实时数据处理,Antonio Vázquez(软件公司Bizagi的CIO)认为人工智能成为了一个明确的盟友。“AI可以通过提高数据传输、可扩展性、安全性和成本方面的效率来解决过去阻碍技术采用的问题。”
运营效益使其也值得考虑。“AI通过在网络边缘实现实时、智能的数据处理,使边缘计算对CIO更具相关性,”Macrometa的首席执行官兼联合创始人Chetan Venkatesh补充道。在他看来,这种结合解锁了性能提升、增强用户体验、新的应用程序交付方法以及更好的韧性。此外,数据隐私也是一个额外的好处,这是一个对于AI系统颇具争议的话题。“在本地处理敏感数据解决了日益增长的数据主权和合规性方面的担忧,”他说。
提升数据处理的方式和地点也等同于积极的商业成果。“AI使得边缘计算对于CIO来说高度相关,因为它允许企业更靠近数据生成的地方进行处理和分析,”Payton说。“随着AI的不断发展,它对快速数据处理的依赖使其不仅有益而且对于竞争优势是必不可少的。”
边缘计算中的AI应用场景
AI 推理可以放在设备上、本地服务器或云端,但在需要速度和隐私的众多场景中,边缘计算则表现出色。“边缘 AI 允许在最需要的地方进行即时决策——靠近数据源。”Venkatesh 说,“这开启了之前不可能实现的应用案例。”
许多面向用户的情况可以从基于边缘的AI中受益。Payton强调了面部识别技术、为半自主车辆提供实时交通更新以及通过连接设备和智能手机进行数据驱动增强作为可能的应用领域。“在零售业,AI可以通过智能设备实现实时个性化体验,”她说。“在医疗保健方面,可穿戴设备中的基于边缘的AI可以在检测到异常情况时立即通知医护人员,有可能挽救生命。”
而人工智能和边缘计算的明确胜利即将到来智慧城市Bizagi的Vázquez说。他表示,边缘处的AI模型可以在控制交通信号灯之外提供诸多帮助,例如保障市民安全、自主交通工具、智能电网以及自我修复基础设施等。实际上,在巴林、格拉斯哥和拉斯维加斯等城市已经开展了利用AI进行城市规划、缓解交通流量和增强公共安全等方面的实验。
自管理的智能基础设施无疑是 Dairyland 的 Melby 非常关心的问题,因为能源行业正在努力使用人工智能来实现减排目标、转向可再生能源,并增强电网的韧性。“我们正试图拥抱更多灵活的能量交换方式,分散能量生成,并在实时操作中融合多种资源,”他说。“通过利用人工智能和边缘计算技术,我们可以有效地降低一些复杂运营决策的风险,通过建立具有明确且可预测边界的机器决策来实现。”其中一个具体领域是根据成本和预测选择并平衡多个能源来源(如风能、太阳能或电池储能),以及自动优化双向电力流动。
另一个领域是制造业。Akamai的Blumofe指出,制造商可以利用边缘计算上的AI算法来监控生产质量和工作场所安全,并实时调整生产过程。这也可以包括预测性维护和机器自诊断。
其他一些特殊情况也是相关的,例如将通用人工智能带到战场上的士兵,AVOA的克劳福德说。然而,总体而言,他对边缘人工智能的看法更为务实,认为它更像是一种专门用途的技术而非一种包罗万象的方法。“在边缘进行AI和计算仍然非常小众,”他说。他部分归因于训练模型的成本高昂以及回报低。“必须有显著的价值来抵消成本。”
边缘计算对业务的影响
首席信息官倾向于对边缘人工智能可能对企业产生的影响持积极态度,认为它可以提高可靠性、减少数据传输、增强个性化以及降低数据泄露的风险。
一个关键的好处是将可靠性带到边缘。“自愈系统是提高任何需要优化其资源的技术的可靠性的关键,这些技术靠近事件发生的地点,远离系统的管理位置,”Bizagi的Vázquez说。这可以通过使用人工智能驱动的组件来实现负载均衡、容错或预测性异常检测。
除了传统的保护措施之外,边缘自主人工智能有望解锁对实时操作前所未有的响应能力。“改进的决策智能、持续无缝的自动化流程以及朝着确保未来互操作性的数字生态系统发展的进步是巨大的好处,”梅尔比说。特别是在能源行业,它可以通过从反应式转向预测式方法来帮助改善电网维护。
除了运营效益之外,其他人预计通过在边缘使用人工智能提供更快速、个性化的体验来提升客户体验。“今天的用户期望即时的、智能的和富有洞察力的在线体验,”Macrometa的Venkatesh表示。然而,这些日益动态的互动通常需要API请求链式调用到远程服务器去,导致延迟,他说。“设计良好、部署得当的边缘人工智能在代码更改最少的情况下集成了更多的功能,使企业能够提供用户渴望的真实时互动体验。”
尽管潜在的好处很多,但期望必须基于现实,因为如果业务成果没有达到预期,许多用例将会被放弃,Crawford说。
由于AI训练和推理所需的巨大电力要求,门槛也很高,这带来了物理限制。他提到了最近爱尔兰的一次电网故障,该故障限制了如AI处理这类能源密集型计算。
正确地进行边缘人工智能开发
实施边缘人工智能的兴奋情绪应该谨慎乐观。例如,Payton建议将AI战略与业务成果对齐,并采取“稳步前进,而非急躁奔跑”的方法。“我建议CIO们采用试点-测试-学习的方法来确保您全面了解在实施AI和边缘计算时的所有拥有成本、安全考量以及业务连续性计划。”她说。
CIO们还必须证明投资的合理性并优化他们对物理资产的使用。Melby建议组织仔细考虑他们试图解决的问题以及预期的结果。“在我的行业中,我们正努力变得更加高效和更具韧性,而边缘计算结合人工智能将帮助我们在以前无法实现的方式中取得进展,”他说。“这种潜力是变革性的。”他还补充说,CIO们应仔细规划模块化或小型数据中心在边缘的位置以获取最大价值。
成功还取决于为特定应用选择合适的模型,因为并非每个AI应用程序都需要在能耗高、高端GPU上运行的大型语言模型(LLM)。布鲁莫费说:“在许多企业应用场景中,一个优化后能在普通CPU上运行的小型AI模型是更好的解决方案。”“这些边缘运行的优化模型可以显著降低延迟并大幅降低成本。”随着市场上涌现出大量LLM,仅仅筛选可用选项也是一项任务。
除了做出明智的判断外,纳入平台无关的工具和蜂窝技术领域的最新进展对于边缘计算的未来也非常重要。“优先考虑可扩展、去中心化的架构,这些架构可以处理AI工作负载,并利用无缝集成边缘、云和本地系统的混合云解决方案,”Payton表示。“此外,像5G这样的技术将在支持更快的数据传输方面发挥关键作用,使边缘计算更加可行和有效。”
迎接更清洁的未来
来自各个方向的不利因素即将接踵而至,而CIO们对此谈论得还不够多,克劳福德说。其中之一就是碳足迹问题。例如,欧盟的企业可持续发展报告指令(CSRD)将于2025年初生效,这要求企业准确计算其环境影响。
这样的规定可能会使计算密集型的人工智能项目的实施变得更加复杂。因此,在这种环境下,CIO们必须聪明且有目的性。Crawford鼓励他们在深入研究人工智能之前构想价值链条,评估技术风险债务的景观,并加倍重视系统的韧性。
“全面来看,实施以安全、安全防范、韧性、透明度、公平性和责任为重点的最佳实践,对于应对诸如偏见、安全漏洞和伦理问题等风险非常重要,”Payton说。
而AI所带来的风险虽然可能令人担忧,但不进行演进的替代方案使得不作为变得不可行。“对于希望增强其基础设施的CIO而言,采用边缘计算与AI不仅仅是趋势,而是保持竞争力的必要条件,”Venkatesh表示。
ニュースレターを購読する
編集者から直接受信トレイに
接收当天的头条新闻 • CIO.com的通讯涵盖广泛的管理话题和技术话题。管理话题包括IT战略、创新、IT管理、CIO的角色、雇佣与员工管理、IT服务和产品采购、IT运营以及合规等问题;技术话题则包括云计算、人工智能(包含预测分析和生成式AI)、分析与商业智能、数据中心、数据管理和策略、企业软件、安全、身份管理和隐私、移动计算、协作技术、远程工作、软件开发和DevOps、网络、系统管理与监控等。我们为中大型企业、政府机构及研究机构提供全球信息。请在此输入您的电子邮件地址开始订阅。