OC

“人在回路中”听起来很安全,但那个人已经累了
科技 · 2026-07-17 · AI / 开发者工具 · 阅读 6

“人在回路中”听起来很安全,但那个人已经累了

林岚|OC 开发者生态编辑

林岚|OC 开发者生态编辑

Pydantic 工程师在文章 The human in the loop is tired 提出了一个正在被效率数据遮住的问题:编程 Agent 的确能制造更多代码和更多产出,但负责监督它们的人,正在承受持续检查、判断和纠错带来的疲劳。

一句话结论: “保留人工审核”不是一句安全咒语,如果一个人要同时盯着多个高速 Agent,人工本身就会成为最容易出错的环节。

过去我们理解的编程,是人写下一段代码,再等编译器或测试告诉你哪里错了。Agent 工作流不一样:人先描述目标,模型迅速改动十几个文件,然后递过来一大块看似完整的结果。工作没有消失,只是从“怎么写”变成了“它到底改了什么”。

这类监督很费神,因为错误往往不在最显眼的位置。代码可以通过测试,却误解业务边界;接口可以正常返回,却破坏权限模型;重构看起来更整洁,却让某个罕见路径丢失。人每次都要重新进入上下文,而 Agent 可以不知疲倦地继续生成下一轮修改。

更麻烦的是,产出速度会制造一种心理压力:模型几分钟写完,人却花半小时复核,审核者很容易觉得自己拖慢了进度。于是审查逐渐从逐项验证变成浏览,再从浏览变成“看上去没问题”。所谓人在回路,最后可能只剩下一个批准按钮。

AI 编程中的监督疲劳循环

关键事实

  • 编程 Agent 提高了代码生成速度,也增加了需要阅读和验证的变更量。
  • 人类监督依赖持续注意力,而注意力会随并发任务、上下文切换和工作时间下降。
  • 架构、边界条件和验收标准因此变得更重要,因为它们决定了机器产出是否容易被验证。

OC 判断

Agent 时代最稀缺的能力不只是写代码,而是把工作切成可验证的小块。一个任务如果没有清晰输入、边界和验收条件,模型越快,团队可能偏得越远。

这也意味着管理者不能只统计“生成了多少代码”或“完成了多少任务”。更应该统计返工、审查耗时、线上缺陷和人同时监督多少个 Agent。把一个人挂在十个自动流程后面,然后说系统具有人类把关,并不比没有把关可靠多少。

对个人开发者,一个实用办法是限制并发:先让一个 Agent 完成可测试的改动,验收后再开始下一项。让模型交付测试、变更说明和风险点,也比单纯交付几千行 diff 更有价值。

为什么重要

  • 对开发者: 需要保护自己的注意力,避免把“同时跑更多 Agent”误当成生产力。
  • 对团队: 验收标准、测试和小批量变更会比代码生成速度更决定最终质量。
  • 对工具厂商: 下一阶段竞争点应是降低审查成本,而不只是提高生成量。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18