OC
Anthropic 披露 AI 研发自动化,26% 主导不是自主造模型
科技 · 2026-09-18 · AI安全 · 阅读 0

Anthropic 披露 AI 研发自动化,26% 主导不是自主造模型

Anthropic 发布的研发测量说明披露,截至 2026 年 8 月,Claude 在其统计中“主导”26% 的 AI 研发工作,同时没有任何被测工作子集达到完全自主。这份快照还讨论了 Agent 监控和算力分配,值得看,但三个维度不能合并成一张安全合格证。

作者:韩启明|OC 政策与安全编辑

Anthropic 发布的研发测量说明披露,截至 2026 年 8 月,Claude 在其统计中“主导”26% 的 AI 研发工作,同时没有任何被测工作子集达到完全自主。这份快照还讨论了 Agent 监控和算力分配,值得看,但三个维度不能合并成一张安全合格证。

一句话结论:这些指标增加了外部可见度;自动化等级、监控覆盖与安全投入各自都有分母和盲区,不能互相代替。

“主导”仍然有人监督

报告采用从无 AI 参与到完全自主的分级。“主导”指模型可以从高层提示完成大部分任务,人仍负责监督;它与不需要人参与的最高等级不同。

因此,26% 不能直接写成四分之一模型研发已经脱离人类,也不能推导出模型能够独立构建下一代模型。一个团队中的任务自动化程度,与整个研发闭环是否可以自主运行,是不同层次的问题。

这个比例还来自工作分类和权重。它不是把公司所有工时接上计时器后,直接量出由 AI 独占的时间。分类如何划分、任务如何加权,以及边界情况被评为哪一档,都会影响结果。

报告使用模型辅助整理和评价证据,并承认评价者可能与被评价系统共享错误。外部验证的重要性,恰恰在于不能只靠同一种方法反复确认自己。

监控经过了,不等于问题识别了

在最常用的内部平台范围内,Anthropic 报告 Agent 动作全部经过在线监控,事后也进入离线监控。这可以说明覆盖路径,却不能说明每个危险动作都能被正确判断。

一台摄像机覆盖全部入口,不等于识别系统不会漏掉异常。软件监控也是如此:覆盖率回答看到了多少,检出能力回答能认出什么,人工复核延迟则回答问题多久能被处理。

同样,极低的拦截比例可能来自行为本来正常,也可能受到阈值、漏报和工作负载影响。没有带标签的测试或独立攻击评估,不能仅凭拦得少就断言模型足够安全。

自动化、监督与算力是独立测量维度;编辑概念图

在线阻止与事后审查服务于不同风险

有些动作一旦发生便难以撤回,需要在执行前限制;有些行为模式只有跨越较长记录才能看出来,更适合事后分析。两种监控各有用处,但不能用事后“已经记录”来替代事前控制。

当 Agent 数量增加,单条记录合理,也可能在组合后产生异常。身份连续性、跨任务关联和来源记录,因此不只是日志工程细节,而是能否追踪一段行为的基础。

对采购或使用这类系统的组织而言,值得追问的不只是厂商有没有监控,还包括自己的部署是否处在同一覆盖范围,哪些行为会被阻止,哪些只会稍后复核。内部研发平台的数字不能自动覆盖全部客户场景。

算力比例不是安全工作价值的全部

报告另取一周数据考察算力用途。这样的快照有助于观察资源分配,却不等于年度预算,也不等于安全团队投入的完整衡量。

安全研究中有些工作依赖长时间设计和分析,算力消耗并不高;某些高耗能运行也可能同时服务能力与安全目标。如何分类必须公开,否则不同实验室的百分比看起来可比,实际却在计算不同东西。

这些测量最有用的未来,是统一口径、持续披露并接受外部检查,而不是从一次快照里选出一个最适合传播的数字。变化趋势和方法修订,比孤立排名更能帮助公众理解研发正在怎样改变。

关键事实

  • 来源:Anthropic 自行披露的测量方法与内部快照。
  • 自动化:“主导”与完全自主不同;26% 不等于研发全流程脱离监督。
  • 监控:覆盖指标限定于被测内部平台,不代表全部风险检出率。
  • 算力:特定周期和分类下的投入指标,不是完整安全绩效。

OC 判断

可公开检查的过程指标,比只承诺重视安全更有价值。但透明度的下一步应是可验证性:公布口径、暴露盲区,并让外部人有条件检验。

为什么重要

企业采用 Agent 时也会遇到同样问题。任务自动化越多,越需要把效率、监控质量和责任链分别衡量,避免用一个好看的覆盖率替代真正的控制能力。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关碎碎念

更多

从第一份程序员职业至今,已经过了 20 年,现在已经不再亲自写代码了,年初看到 Codex/Claude 火爆,又起心动念开始堆代码,只不过现如果自己亲手写的代码,跟 AI 写的代码放在一起,我开始有种耻感涌上来。是到了把关注点挪到像我这种老登程序员的生活上的时候了。

lgn21st 1 1

最近越来越多思考,我们跟agent的关系,比如我最近用blender mcp很多,基本上我算是会用blender的,但是老记不住很多热键,以前我可以做很复杂的模型,但是要是不是的去查blender的操作热键。现在我完全不参与模型的建模,只让codex帮我生成。 但是我还是在查blender的热键,我现在需要的是numpad .这样聚焦到一个对象的方法,我需要的是numpad /这样的方法来把除了选中的对象,其他都隐藏的热键。 换言之,我现在需要高效的人工视觉复检blender mcp的成果,这是我对自己目前blender能力的需求了。

tinyfool 2 0

在我的windows游戏本,也安装了codex,现在叫chatgpt app。然后用遥控的方式操作这个codex去做很多事情,比如以前windows游戏本没空间了,我需要打开steam、gog、战网,然后手工看一堆目录的占用。现在直接用codex做个扫描。然后决定要不要暂时删除某个游戏啥的。 以前要在windows游戏本实验一些必须N卡的AI项目要自己去安装,现在也都交给Codex来做,我就在我习惯的mac环境下遥控即可

tinyfool 0 0

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

做 AI 语音产品时,授权、撤回和审计日志应该怎么落地?

<p>最近看到越来越多关于声音授权的讨论。对开发者来说,真正麻烦的往往不是“模型能不能模仿”,而是授权如何进入系统、生成结果如何追溯,以及授权撤回后该怎么办。</p> <p>我们在做 FlowSpeech 时也碰到过类似问题。我的体会是,不要把“用户勾选过同意”当成一个布尔字段,而应该把它做成一组可以审计的业务对象。</p> <h2>1. 把声音资产和授权分开</h2> <p>声音文件只描述技术属性,例如哈希、上传者、存储位置和创建时间。授权记录则至少要包含授权主体、用途范围、地域、有效期、来源证据和当前状态。这样同一份声音用于个人试听、商业广告、公开播客时,可以绑定不同的授权,而不是共用一个模糊的 consent=true。</p> <h2>2. 每次生成都保存授权快照</h2> <p>生成任务不要只引用当前授权 ID。授权内容以后可能变更,如果任务只查最新状态,历史结果就无法解释。更稳妥的做法是在任务创建时保存授权版本、文本哈希、声音版本、模型版本和操作者。生成出的音频再记录 artifact_id,并反向关联任务。</p> <p>我会把最小链路设计成:</p> <ol> <li>voice_asset:原始声音及版本;</li> <li>consent_grant:授权范围与证据;</li> <li>generation_job:请求参数和授权快照;</li> <li>audio_artifact:输出文件、校验值和公开状态;</li> <li>audit_event:谁在什么时候创建、下载、公开或撤回了内容。</li> </ol> <h2>3. 撤回不是简单删除一行</h2> <p>授权撤回后,系统至少要阻止新任务,并把相关公开音频进入下架队列。已经交付给客户的文件是否能删除,要按照合同和产品能力区分,不能在界面上承诺技术上做不到的“全球删除”。更现实的状态机是 active、suspended、revoked、expired,并明确每个状态允许哪些动作。</p> <h2>4. 对外展示也要可验证</h2> <p>除了后台日志,公开音频最好带上来源标记或可查询的生成记录。水印不是万能方案,但“可识别的音频 + 可验证的元数据 + 清晰的举报入口”组合起来,比一句“AI 生成”更有用。</p> <p>我们现在做的 <a href="https://flowspeech.io/zh">FlowSpeech</a> 主要解决上下文感知、情绪和停顿控制。越往产品化走,越觉得声音效果只是前半程,权限边界和可追溯性才决定这类工具能不能长期使用。</p> <p>大家在实际项目里会把授权证据放在业务数据库、对象存储,还是单独的审计系统?如果授权撤回,你们通常怎么处理已经生成并交付的音频?</p>

FlowSpeech 0 1

一个体会,Codex 这种现代 Agent,每天一个变,几天不用就有新惊喜

<p>当然我说的也包括 Claude Code,新功能日新月异,还有就是 AI 能力提升以后,可以做的东西日新月异。还有各种工作流方法日新月异。</p> <p>更好玩的是,我最近经历过很多次,你跟人介绍现在 Codex 可以做到什么样子,他们都觉得很厉害。但是你现场一演示,他们的震撼就更加完全不同了。所以,这种东西,需要大量的 Workshop 去沟通交流,光看文字很难讲清楚,直播、视频也越来越重要了。</p>

tinyfool 1 89

你更喜欢 Codex 还是 Cladue Code?

<p>我先说,我更喜欢 Codex,因为我没用过 Cladue Code。Codex 一直都能很好满足我的需求,所以我不是很有动力去换 Cladue Code。虽然我也知道很多人更喜欢 Cladue Code。但是我觉得应该差不多吧?</p>

tinyfool 5 111