AI 竞赛换了计分板:最强模型不一定拿到最多订单
作者:林岚|OC 技术编辑
作者:林岚|OC 技术编辑
据 CNBC 报道,企业采购 AI 的关注点正从“哪个模型榜单第一”转向任务是否匹配、成本是否可控、数据放在哪里,以及系统能否在多个模型之间自动选择。
一句话结论:未来企业买的可能不是某一个最强模型,而是一套会把便宜任务交给小模型、把困难步骤升级给强模型的调度系统。
过去两年,AI 新闻很容易写:参数更大、基准分更高、上下文更长。但企业真正上线以后,账单会把问题改写。一百万次客服分类、文档抽取或商品标签生成,并不需要每次调用旗舰模型;少数复杂投诉、代码修复和决策分析才值得支付高价。
Perplexity CEO Aravind Srinivas 对 CNBC 的表述很直接:模型本身已经不再等于产品,外面的 harness、工具和编排系统同样重要。Perplexity 展示的思路是让较便宜的开放模型承担大部分电脑操作,遇到难题再调用更强模型。

Benchmark 合伙人 Peter Fenton 预计,未来18至24个月,超过90%的生成 token 可能来自开放权重模型。这是投资人的判断,不是已经发生的市场统计,但方向并不难理解:一旦“够用”的模型能在企业自己的云或设备上运行,API 厂商的溢价就要靠更高成功率、更好工具和更少运维来证明。
便宜不等于总成本更低
这里最容易出现另一个误区:下载开放模型,不代表 AI 就免费了。企业仍要购买 GPU、部署推理服务、监控延迟、修补安全问题、管理版本和许可证。对于请求量不大的团队,按量使用闭源 API 可能反而便宜;只有流量稳定、数据敏感或模型需要深度定制时,自托管才更容易算出优势。
本地模型也不会让大型数据中心失去意义。更可能出现的是混合架构:分类、检索和隐私数据在本地处理,复杂推理送往云端;Agent 根据预算、延迟和成功率动态升级。模型公司真正的护城河也会从“我有最高分模型”,转向“我让每项任务以最低总成本完成”。
关键事实
- CNBC 报道的是行业参与者的趋势判断,不是开放模型已占90% token 的现状。
- 模型路由会综合任务难度、价格、延迟、隐私和运行环境。
- 开放权重不必然等于完全开源,许可证、训练数据和使用限制各不相同。
- 自托管成本还包括硬件、人员、监控、安全和升级。
OC 判断
AI 模型正在变成数据库一样的基础组件:企业会同时使用多个,不会对一个供应商保持浪漫忠诚。旗舰模型仍然重要,但它更像疑难任务的升级通道。真正能赚钱的系统,要能判断什么时候不该调用最贵模型。
为什么重要
- 开发者:应用架构应支持模型替换、评测和分级路由,避免绑定单一 API。
- 企业:比较价格时应看“完成一次合格任务”的成本,而不是每百万 token 单价。
- 用户:日常遇到的小模型并不一定更差,它可能只是被分配了更合适的任务。
评论
围绕这篇文章补充信息、提出问题或分享观察。