Cloudflare 允许搜索拒绝训练,但 Bing 的承诺还没有全部落地
Cloudflare 在最新公告中推出 Disallow AI Training,试图让网站保留搜索收录,同时拒绝训练用途。最容易漏读的一点是:对不同运营商,这个选择的实际效果并不完全相同,Bing 的相关 robots.txt 支持仍有未来时间表。
作者:韩启明|OC 政策与安全编辑
Cloudflare 在最新公告中推出 Disallow AI Training,试图让网站保留搜索收录,同时拒绝训练用途。最容易漏读的一点是:对不同运营商,这个选择的实际效果并不完全相同,Bing 的相关 robots.txt 支持仍有未来时间表。
一句话结论:新控制比全部放行或全部拦截更细,但不能把运营商的兑现承诺写成已经存在的技术保证。
这是对旧方案的一次实质调整
OC 在7 月 26 日的报道中介绍过 Search、Training 和 Agent 三类用途,以及当时针对混合用途爬虫的计划。本次新增的是专门的训练退出选项,以及 Cloudflare 对运营商的 Accountable 分类。旧稿所描述的预期配置,不能直接当作今天的设置说明。
难点在于,同一个爬虫可能既建立搜索索引,也为训练准备内容。把它从网络上完全挡住,搜索发现也会受影响;让它进来,则必须有后续用途约束。入口处的网络设备可以识别和阻止访问,却不能仅凭一次请求看清数据未来的全部去向。
Disallow AI Training 的思路,是对符合条件的混合爬虫发布不用于训练的偏好,并保留搜索访问;对其他训练爬虫采取拦截。它将访问控制与运营商承诺组合起来,而不是从一次抓取里魔法般拆出两份互不相干的数据。
Accountable 不是“所有能力已经完成”
公告对 Accountable 的描述同时包含现有能力和限期交付承诺。这个分类有协调价值,但含义更接近一组应被检查的要求,不是永久有效的安全认证。
其中尤其值得网站运营者留意的是 Bing。按 Cloudflare 的说明,微软针对域名级 robots.txt 训练退出偏好的支持目标是 2027 年初;在其上线之前,单独选择 Disallow AI Training 不会自动把这一偏好通过该路径传达给 Bing。站长仍要参考 Bing 现有的控制办法。
这不是一句“微软也参与了”可以覆盖的差别。设置名称相同,不代表各家后端已经实现同样的行为。判断是否满足自己的内容政策,需要看具体运营商、具体机制,以及机制何时生效。

Block 的含义也值得重新确认
Cloudflare 说明,新的 Block 会覆盖混合用途爬虫。因此,真正选择彻底拦截时,不能只期待训练停止,却假定搜索访问不受影响。它与保留搜索的训练退出选项,是两种取舍。
这个变化提醒我们,控制台迁移不只是名称调整。同样一个词,在旧版和新版配置中可能有不同覆盖范围。对依赖自然搜索的站点,合理做法是核对迁移后的有效设置,而不是凭记忆认定旧勾选仍意味着原来的行为。
同样需要分开的是训练与 AI 摘要。前者关乎模型构建,后者可能直接影响用户是否点击进入网站。拒绝训练不自动等于拒绝摘要,更不保证所有答案产品都停止引用页面。把三种目标混成一个“禁止 AI”开关,会让运营者很难评价结果。
控制效果最终需要观察证据
站长真正关心的不是规则写得多强硬,而是哪些爬虫还在访问、访问遵循了什么偏好,以及搜索发现有没有变化。此类证据能够帮助发现配置误解,但单靠访问日志仍难验证数据在外部服务中的全部后续使用。
因此,这类基础设施有价值,也有无法独自完成的部分。协议、运营商实践与透明报告需要共同演进,不能将某一家网络服务的设置当成整个互联网已经达成的一致规则。
关键事实
- 新增 Disallow AI Training,明确区分保留搜索与彻底 Block。
- Accountable 同时包含已实现能力和有期限的承诺。
- Bing 的域名级 robots.txt 训练退出支持目标仍在未来,不能写成当前全面生效。
OC 判断
这是对混合用途爬虫问题的务实推进,也修正了此前非开即关的方案。但用户需要按运营商看到实际生效状态,而不仅是一枚共同标签。能说清尚未完成的部分,比把控制能力讲得整齐更可信。
为什么重要
网站的内容政策和流量来源常常绑在一起。误读一个开关,可能既没实现训练退出,又意外影响搜索。细粒度选择只有配上明确语义和可观察结果,才真正增加站长的控制权。
评论
围绕这篇文章补充信息、提出问题或分享观察。