AI的采用摊位作为推理成本混淆云用户
企业客户采用更广泛的AI采用受到了试图预测推断成本的复杂性的阻碍，因为担心会因云服务的过多账单而感到恐惧。
大约是市场观察家Canalys说，今天发布了统计数据，该数据显示企业在全球范围内花费了9009亿美元在基础架构和平台上与Microsoft，AWS和Google等人在Q1中的服务，同比增长了21％，随着云采用的前进量增长了21％。
Canalys说，增长来自企业用户将更多的工作负载迁移到云中，并探索了生成AI的使用，这在很大程度上依赖云基础架构。
然而，即使组织超越了发展和试验来部署AI模型，对推断服务的持续经常性成本缺乏明确性，这也成为一个问题。
Canalys高级总监Rachel Brindley说：“与一次性投资不同，推断代表了经常出现的运营成本，这使其对AI商业化的道路有关键的限制。”
她补充说：“随着AI从研究到大规模部署的过渡，企业越来越关注推理的成本效率，比较模型，云平台和硬件体系结构，例如GPU与自定义加速器。”
Canalys的研究人员Yi Zhang说，许多AI服务遵循基于用法的定价模型，这些模型以令牌或API呼叫为基础。随着使用服务规模的使用，这使得成本预测很难。
张说：“当推论成本波动或过高时，企业被迫限制使用，降低模型复杂性或将部署限制为高价值方案。”“因此，AI的广泛潜力仍然不足。”
企业犹豫不决地致力于更广泛地使用推论服务也就不足为奇了，当高于预期的账单对于云服务的使用速度增长的速度比预期的要快，或者由于测量必要的资源的复杂性而过度配置。
一个极端的例子是37Signals，是项目管理平台Basecamp的开发人员，该平台开始了切换到本地在每年的云账单超过300万美元之后。
- 我只是一个在chatgpt世界中的芭比娃娃女孩
- AMD押注在机架规模上计算以提高AI效率20倍到2030
- Devs说，人工智能编码工具就像是有用但不信任的朋友
- CIO希望通过克隆员工作为数字双胞胎和人工智能代理商来发展科技团队
加特纳去年警告采用AI的最终用户组织可能会发现“可能会出现500％至1,000％的AI成本估计错误”，因为供应商的价格上涨，而不是关注成本，或者只是不适当使用AI。
根据Canalys的说法，云提供商的目标是通过为AI建造的现代化基础设施提高推论效率，并降低AI服务的成本。
十月，卡纳利斯首席分析师阿拉斯泰尔·爱德华兹（Alastair Edwards）说公共云可能不是最合适的环境用于AI模型推导。
他在柏林的Canalys论坛上说：“公共云开始部署这些用例时，我们都专注于并开始扩展，如果您在公共云中这样做，从成本的角度来看，它变得不可持续。”
他补充说，一些公司正在转向托管和专业托管提供商，而不是大型公共云运营商。
最新的Canalys报告发现，三大球员（AWS，Azure，Google Cloud）继续主导IaaS和Paas市场，占全球客户支出的65％。
但是，微软和Google在AWS上逐渐发展，因为其增长率已减缓至“仅” 17％，比2024年最后一个季度的19％下降了17％，而这两个竞争对手的增长率已超过30％。®
关于《AI的采用摊位作为推理成本混淆云用户》的评论
暂无评论