关注成本和数据隐私,领导者越来越多地将私有云或本地人视为一旦工作负载的稳定和实验的更好替代方案。
CIO已开始重新考虑他们对公共云和其他工作量的依赖,对私人云和本地环境的兴趣持续了兴趣。
虽然公共云为AI实验旋转大量GPU提供了灵活性,但CIO正在寻找私有云或本地环境作为他们的环境人工智能策略成熟,并解决可预测的AI工作负载,限制支出并保护数据隐私格雷格·沃伦(Greg Whalen),数据可观察性公司的CTO证明AI。
最近证明AI调查在美国和加拿大的1000名企业领导人中,有67%的人计划在未来12个月内将一些AI数据迁移到非云环境。除了成本可预测性和数据隐私问题外,此举的主要原因包括安全问题根据调查,与SaaS环境挑战云集成挑战。
Whalen说,运行一致的AI工作负载的组织可以通过购买几个GPU或在其私人云提供商中安装一些,而不是在公共云中租用时间来节省资金。他认为,如果领导者可以准确估计他们的需求,他认为,内部GPU将得到充足的使用,而停机时间很少。
他说,如果您确实进行了微调,即使您只是想自定义抹布(检索增强生成)模型,您可能需要数小时的连续GPU计算。”即使对模型的实际评估,模型的运行,您的工作负载也不是很刺耳的。
他说,沃伦(Whalen)并没有看到许多组织在无法使用的问题上运行自己的GPU。
但是,根据调查,计划在私人云服务上花费超过1000万美元的受访者的百分比增长了甚至更快,从2023年的36%增加到2024年的43%,到2025年的54%。这是公共云上大支出的增长率的两倍。
GTT发现,现在所有AI工作负载中有一半以上居住在私有云和本地环境的组合中,安全性,合规性以及AI工作负载的特定需求是寻求替代公共云的主要原因。
监管和合规性问题是私人云或本地解决方案的主要驱动力。Bastien Aerni,GTT战略和技术采用副总裁。许多公司正在将其敏感的工作量转移到私有云中更广泛的多云他补充说,以及支持代理AI和其他复杂AI计划的混合策略。
AINI说,大多数情况下,AI正在触及机密数据或关键数据。” Aerni说。然后,关于架构的思考以及工作量应该是公共与私人,甚至在本地的,正在成为一个真正的问题。”
他说,公共云仍然为AI项目提供最大的可扩展性,近年来,CIO被那里可用的额外功能数量所说服。
在我与CIO进行的一些对话中,可以说,五年前,他们提到的是,有很多功能,太多的工具,” Aerni补充说。现在,当我进行相同的对话时,他们说,现在,我现在不使用这些工具了。他们都在寻找稳定性和可预测性。”
一个小出埃及记
其他云和人工智能专家没有看到公共云的大量退出,由于AI的计算需求很高,因此仍在发生增长。大部分的企业仍在使用混合云模型。Danilo Kirschner云咨询公司ZOI北美董事总经理。
遣返正在发生他说,但是组织完全放弃了公共云。
悖论很明显:AI的工作负载既推动了云的增长,又推动了选择性遣返,因为市场正在如此迅速地扩展,以至于一次容纳多个部署模型。”我们所看到的是从天真的一切到云策略到智能,特定于工作量的决策的成熟。”
扎克·恩格勒,IT人员配备咨询公司C4技术服务的首席AI官也看到了同样的趋势。
他说,我们不看云中的大规模出埃及记。”``公司更像是用最有价值的AI工作量悄悄地偷偷溜出侧门。
他补充说,信任,成本和控制数据重新恢复了会议室议程,并影响了关于AI工作负载运行和数据存储何处的决策。
英格勒说:``公共云仍然非常适合实验,快速扩展并在董事会甲板上看起来令人印象深刻。”但是,当涉及专有数据,合规性或不必要地燃烧现金时,本地和私人设置开始变得更有意义。”
订阅我们的新闻通讯
从我们的编辑直接到您的收件箱
通过在下面输入您的电子邮件地址开始。