OC
他为了研究怎么省 Token,先在 30 分钟里烧光了 Claude 限额
科技 · 2026-07-20 · AI / 开发工具 · 阅读 11

他为了研究怎么省 Token,先在 30 分钟里烧光了 Claude 限额

林岚|OC 开发者生态编辑

林岚|OC 开发者生态编辑

Quesma 工程博客 分享,作者为了研究 AI Agent 的 Token 经济,最初让 Claude 的深度研究功能直接处理大问题,约 30 分钟便用完 Claude Max 5x 限额:系统启动 111 个 Agent,排队验证 123 条说法,只完成 25 条验证,甚至没来得及生成最终报告。

一句话结论: 省 Token 的关键不是让每个 Agent 都少说几句,而是把“寻找、验证、裁决和综合”拆开,让昂贵模型只处理真正需要它的环节,并避免一次无边界的研究把预算烧在中途状态上。

这篇文章最有意思的地方,是作者研究的对象先在自己身上发生了。一个看似合理的任务“帮我完整研究 Agent 成本”,被系统拆成一百多个并行工作单元;过程看起来非常忙,最后却因为配额耗尽,没有交付任何可用结果。

这也是 Agent 工作流和普通聊天最大的成本差异。聊天往往是一问一答,Agent 会反复读取上下文、调用工具、生成中间报告、验证结果,再把新材料塞回上下文。界面里看到的一段最终文字,背后可能已经发生几十次模型调用。订阅用户感受到的是“突然触顶”,API 用户看到的则是一张比预期大得多的账单。

研究流水线:便宜模型负责寻找,独立模型验证,强模型规划裁决,Codex执行工具,深度研究最后综合

作者后来把 Claude Code 作为主调度器,把不同订阅里的能力分工使用:较便宜的模型批量搜索,更准确的模型核对来源,最昂贵的模型只负责规划和解决冲突;Codex 负责克隆、安装和运行工具,另一个模型家族提供第二意见。多个工具通过共享记忆交换结果,某个订阅到限额后再回退到其他模型。

据作者自测,这套安排把连续研究时间从约 30 分钟延长到数小时,接近十倍。但这个数字不能直接理解成通用的“成本降低 90%”:他使用的是已经购买的多个订阅,等于把工作量分散到不同配额,并没有证明底层算力凭空减少。不同服务的使用条款也可能限制自动化调用,团队采用前必须先核对。

比省配额更值得借鉴的是验证规则。作者要求发现某项结论的 Agent 不能同时负责验证;知识库中的数字必须能在来源页面找到;没有 URL 和原始引文的说法不能入库。深度研究也被放到最后,用来整理已经经过初筛的材料,而不是从一个无限问题开始漫游。后一次运行用了 61 个 Agent 和 22 分钟,但至少输入范围和交付目标都已固定。

这种流程仍然不是全自动真相机器。作者自己举了一个失败:规则因为某项目宣传的节省数字未经验证,直接把整个项目排除,导致一个有大量用户的工具从知识库消失。Agent 正确执行了规则,错误的是规则本身。最后的修正是“拒绝未经证实的说法,而不是拒绝整个项目”。

这件事对普通用户也有直接意义。与其让一个模型“彻底研究某领域”,不如先限定问题、要求一页来源清单,再选择其中几条深入核验;先产出可恢复的中间结果,避免最后一步失败后什么都没有;长期任务则记录每条结论的来源、日期和置信度。Agent 越强,任务管理越不能只靠一句豪迈的提示词。

文章还提出一个容易被忽略的成本来源:Agent 的外壳同样重要。同一模型放进不同 harness,工具描述、上下文压缩、缓存失效和重试策略都可能让 Token 用量相差巨大。模型单价只是账单的一列,实际成本还包括它被迫重复读了多少内容、失败后重跑了几次,以及为了管理 Agent 又调用了多少 Agent。

关键事实

  • 初始运行启动 111 个 Agent,123 条待验证说法只完成 25 条,约 30 分钟耗尽一次 Claude Max 5x 限额。
  • 改造后按寻找、验证、规划、工具执行和最终综合分工,并在多个已购订阅间调度。
  • “约十倍更久”是作者按触顶时间做的个人实验,不是标准化成本基准。

OC 判断

Agent 时代最昂贵的浪费,不是某次回答多了几百 Token,而是没有交付边界的递归工作。一个好流程应该随时能停、能看到已完成成果、能由不同模型接手,也能让人发现“规则本身错了”。

为什么重要

  • 对开发者: 应记录每个阶段的调用、缓存、重试和产物,优化 harness 可能比换便宜模型更有效。
  • 对企业: 多模型编排不是自动省钱,必须把订阅合规、质量验证和总体算力一起核算。
  • 对用户: 大型研究先缩小问题、先要来源、分段保存,比一次点击“深度研究”更可靠。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

一个体会,Codex 这种现代 Agent,每天一个变,几天不用就有新惊喜

<p>当然我说的也包括 Claude Code,新功能日新月异,还有就是 AI 能力提升以后,可以做的东西日新月异。还有各种工作流方法日新月异。</p> <p>更好玩的是,我最近经历过很多次,你跟人介绍现在 Codex 可以做到什么样子,他们都觉得很厉害。但是你现场一演示,他们的震撼就更加完全不同了。所以,这种东西,需要大量的 Workshop 去沟通交流,光看文字很难讲清楚,直播、视频也越来越重要了。</p>

tinyfool 1 89

你更喜欢 Codex 还是 Cladue Code?

<p>我先说,我更喜欢 Codex,因为我没用过 Cladue Code。Codex 一直都能很好满足我的需求,所以我不是很有动力去换 Cladue Code。虽然我也知道很多人更喜欢 Cladue Code。但是我觉得应该差不多吧?</p>

tinyfool 5 111

做 AI 语音产品时,授权、撤回和审计日志应该怎么落地?

<p>最近看到越来越多关于声音授权的讨论。对开发者来说,真正麻烦的往往不是“模型能不能模仿”,而是授权如何进入系统、生成结果如何追溯,以及授权撤回后该怎么办。</p> <p>我们在做 FlowSpeech 时也碰到过类似问题。我的体会是,不要把“用户勾选过同意”当成一个布尔字段,而应该把它做成一组可以审计的业务对象。</p> <h2>1. 把声音资产和授权分开</h2> <p>声音文件只描述技术属性,例如哈希、上传者、存储位置和创建时间。授权记录则至少要包含授权主体、用途范围、地域、有效期、来源证据和当前状态。这样同一份声音用于个人试听、商业广告、公开播客时,可以绑定不同的授权,而不是共用一个模糊的 consent=true。</p> <h2>2. 每次生成都保存授权快照</h2> <p>生成任务不要只引用当前授权 ID。授权内容以后可能变更,如果任务只查最新状态,历史结果就无法解释。更稳妥的做法是在任务创建时保存授权版本、文本哈希、声音版本、模型版本和操作者。生成出的音频再记录 artifact_id,并反向关联任务。</p> <p>我会把最小链路设计成:</p> <ol> <li>voice_asset:原始声音及版本;</li> <li>consent_grant:授权范围与证据;</li> <li>generation_job:请求参数和授权快照;</li> <li>audio_artifact:输出文件、校验值和公开状态;</li> <li>audit_event:谁在什么时候创建、下载、公开或撤回了内容。</li> </ol> <h2>3. 撤回不是简单删除一行</h2> <p>授权撤回后,系统至少要阻止新任务,并把相关公开音频进入下架队列。已经交付给客户的文件是否能删除,要按照合同和产品能力区分,不能在界面上承诺技术上做不到的“全球删除”。更现实的状态机是 active、suspended、revoked、expired,并明确每个状态允许哪些动作。</p> <h2>4. 对外展示也要可验证</h2> <p>除了后台日志,公开音频最好带上来源标记或可查询的生成记录。水印不是万能方案,但“可识别的音频 + 可验证的元数据 + 清晰的举报入口”组合起来,比一句“AI 生成”更有用。</p> <p>我们现在做的 <a href="https://flowspeech.io/zh">FlowSpeech</a> 主要解决上下文感知、情绪和停顿控制。越往产品化走,越觉得声音效果只是前半程,权限边界和可追溯性才决定这类工具能不能长期使用。</p> <p>大家在实际项目里会把授权证据放在业务数据库、对象存储,还是单独的审计系统?如果授权撤回,你们通常怎么处理已经生成并交付的音频?</p>

FlowSpeech 0 1

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4