OC

Knowledge OS
Ploy 换掉 Claude Opus 后便宜了 27%,真正难的却不是换模型
科技 · 2026-07-13 · AI 工程 · 阅读 1

Ploy 换掉 Claude Opus 后便宜了 27%,真正难的却不是换模型

作者:林岚

作者:林岚

据建站 Agent 公司 Ploy 披露,它已把生产环境默认模型从 Claude Opus 4.8 切换到 OpenAI GPT-5.6 Sol。公司称,在自己的网页构建任务中,新模型完成时间不到原来一半,成本低 27%,最终作品评分达到或超过旧模型。

一句话结论: 这不是 GPT-5.6 在所有场景都胜过 Claude Opus 的证明,而是一份很有价值的迁移报告:换模型最危险的部分,往往是评测器、工具参数和缓存策略早已偷偷适配了旧模型。

Ploy 的 Agent 不是只生成一段 HTML。它要读代码、规划页面、写组件、生成图片、截图检查,再决定什么时候结束。团队过去四个月一直使用 Opus 4.7 和 4.8,因为其他模型达不到视觉质量门槛。GPT-5.6 Sol 首次让他们愿意真正迁移。

第一轮评测却出了很多“假失败”。Opus 倾向顺序调用工具,Ploy 原有的调用预算就是按这种节奏设计的;GPT-5.6 喜欢并行读文件,很快撞上上限。评测执行器甚至不支持批量读取。团队检查轨迹后发现,最初约三分之一失败来自测试框架的旧假设,而不是模型不会做。

模型迁移四层问题解释图

工具 schema 也会暴露供应商差异。某些 OpenAI 工具调用会把可选参数填成 null,旧代码却把 null 当成真实值传下去。缓存差异更贵:Ploy 最初为每段对话生成独立缓存 key,导致新会话首轮命中率几乎为零;改成按客户工作区分组后,首轮命中率升到约 83.7%,未缓存输入 Token 下降 28%,成本才真正低于 Opus。

这里有一个很实用的问题:既然用了所谓“通用”AI SDK,为什么还这么难换?SDK 能统一调用形式,却无法抹平模型行为。不同供应商怎样补工具参数、怎样保存推理状态、怎样识别缓存前缀,仍会穿透抽象层。Ploy 还遇到服务器端推理引用失效,最终通过关闭服务端存储,让每轮回放携带自包含的加密推理内容。

林岚认为,27% 是最适合传播的数字,却不是这篇文章最值得带走的部分。真正的经验是:评测集也会过拟合 incumbent。一个新模型如果不像旧模型那样调用工具,可能被系统误判为差;同样,迁移后的成本高,也可能只是缓存 key 设计错误。生产 Agent 的竞争已经不只是模型智商,而是模型与整套运行时能否配合。

关键事实

  • Ploy 的结论仅针对其营销网站构建 Agent。
  • 迁移目标是 GPT-5.6 Sol,原默认模型为 Claude Opus 4.8。
  • 初始失败约三分之一被归因于评测框架对旧模型的假设。
  • 调整缓存后,首轮命中率约 83.7%,未缓存输入下降 28%。

OC 判断

企业不应把“模型对比”做成一次静态榜单。公平迁移需要检查工具轨迹、缓存、并发和终止条件,否则测到的很可能是旧系统对新模型的排异反应。

为什么重要

  • 对开发者:通用 SDK 统一了接口,没有统一模型行为,迁移测试必须覆盖边界值。
  • 对企业:供应商切换能力是一种架构资产,可避免被单一模型锁死。
  • 对用户:某产品换模型后变快或变差,原因可能在运行时,不只在模型本身。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论