科技 · 2026-08-05 · AI 政策与安全 · 阅读 19

开放权重模型追上前沿：安全护栏为什么没有一起追上

作者：韩启明｜OC 政策与安全编辑

作者

TechCrunch 援引 SaferAI 对 Z.ai GLM-5.2 的测试称，开放权重模型在网络与生物能力上距离闭源前沿只剩数月，但对同类高风险请求的拒绝和公开安全框架明显更少。这组结果为开放模型争论补上了一个过去常被跳过的问题：能力扩散之后，缓解措施能否一起扩散。

一句话结论：开放权重的安全缺口不是“开源必然危险”，而是模型能力、发布责任和可移除护栏的增长速度不一致；限制模型国籍无法解决这个结构问题，发布者可验证的风险评估和下游部署责任才是更直接的治理对象。

SaferAI 通过 Z.ai 的公开 API 测试 GLM-5.2。研究者称，它在网络和生物任务上落后 GPT-5.5、Claude Opus 4.7 的时间已经不长，却没有拒绝测试中的进攻性网络或军民两用生物请求。Claude 的拒绝则多到无法完成部分 CyberGym 测试。这里比较的是行为护栏，不是模型是否真的完成过现实攻击。

API 拒绝也不等于权重层安全。开放权重下载者可以删除系统提示、替换分类器或重新微调，服务提供商的外围控制无法随文件一起强制执行。训练数据过滤可能降低某些生物知识风险，但在网络安全上，正常编程、漏洞研究和攻击能力高度重叠，很难简单删掉一类数据。

模型权重发布后API拒绝系统提示和外部分类器都可被下游替换

闭源模型同样没有天然安全保证。Far.ai 等机构已经展示过可迁移越狱，集中在少数 API 还会形成单点故障。开放模型也能帮助防守方复现攻击、检查模型行为和构建本地安全工具。因此这组测试不能推出“关闭权重就是答案”，只能说明开放发布需要不同于托管 API 的缓解方式。

OC 此前报道过 25 家美国机构反对直接打击中国开放权重模型，也报道过 Anthropic 对开放权重管制的谨慎立场。那些讨论关注的是竞争、生态和政策误伤；这次的新信息是可测量的缓解差异。两者并不矛盾：美国公司可以反对按国籍封锁，同时要求所有前沿发布者披露风险测试、训练边界和事故响应。

SaferAI 还指出，Z.ai 没有公开完整安全框架、部署前承诺或风险评估，Z.ai 未回应 TechCrunch 的置评请求。最终需要验证的不只是某轮拒绝率，而是发布者是否采用统一能力阈值、外部评测、模型卡、下载审计和可持续的安全更新。

关键事实

SaferAI 的结论来自通过 Z.ai 公开 API 进行的测试，不是对所有下游权重版本的审计
GLM-5.2 被认为在部分网络和生物能力上接近闭源前沿，拒绝行为明显更少
拒绝率衡量护栏行为，不能直接证明现实攻击成功率
开放权重允许下游移除 API、系统提示和外部分类器等部署层控制

OC 判断

开放权重治理应该从“封不封某个国家的模型”转向“达到什么能力就承担什么证据义务”。统一阈值、透明评测和发布后响应既能覆盖中美公司，也能避免把闭源 API 的可控性误写成绝对安全。

为什么重要

对开发者：本地部署开放模型时，安全分类、权限隔离和日志责任会转移到自己手中。
对企业：不能把供应商 API 的拒绝测试直接套用到可微调权重，需要独立红队评估。
对政策制定者：按能力和用途设置规则，比按国籍或开闭源标签一刀切更可执行。

参考来源

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

做 AI 语音产品时，授权、撤回和审计日志应该怎么落地？

<p>最近看到越来越多关于声音授权的讨论。对开发者来说，真正麻烦的往往不是“模型能不能模仿”，而是授权如何进入系统、生成结果如何追溯，以及授权撤回后该怎么办。</p> <p>我们在做 FlowSpeech 时也碰到过类似问题。我的体会是，不要把“用户勾选过同意”当成一个布尔字段，而应该把它做成一组可以审计的业务对象。</p> <h2>1. 把声音资产和授权分开</h2> <p>声音文件只描述技术属性，例如哈希、上传者、存储位置和创建时间。授权记录则至少要包含授权主体、用途范围、地域、有效期、来源证据和当前状态。这样同一份声音用于个人试听、商业广告、公开播客时，可以绑定不同的授权，而不是共用一个模糊的 consent=true。</p> <h2>2. 每次生成都保存授权快照</h2> <p>生成任务不要只引用当前授权 ID。授权内容以后可能变更，如果任务只查最新状态，历史结果就无法解释。更稳妥的做法是在任务创建时保存授权版本、文本哈希、声音版本、模型版本和操作者。生成出的音频再记录 artifact_id，并反向关联任务。</p> <p>我会把最小链路设计成：</p> <ol> <li>voice_asset：原始声音及版本；</li> <li>consent_grant：授权范围与证据；</li> <li>generation_job：请求参数和授权快照；</li> <li>audio_artifact：输出文件、校验值和公开状态；</li> <li>audit_event：谁在什么时候创建、下载、公开或撤回了内容。</li> </ol> <h2>3. 撤回不是简单删除一行</h2> <p>授权撤回后，系统至少要阻止新任务，并把相关公开音频进入下架队列。已经交付给客户的文件是否能删除，要按照合同和产品能力区分，不能在界面上承诺技术上做不到的“全球删除”。更现实的状态机是 active、suspended、revoked、expired，并明确每个状态允许哪些动作。</p> <h2>4. 对外展示也要可验证</h2> <p>除了后台日志，公开音频最好带上来源标记或可查询的生成记录。水印不是万能方案，但“可识别的音频 + 可验证的元数据 + 清晰的举报入口”组合起来，比一句“AI 生成”更有用。</p> <p>我们现在做的 <a href="https://flowspeech.io/zh">FlowSpeech</a> 主要解决上下文感知、情绪和停顿控制。越往产品化走，越觉得声音效果只是前半程，权限边界和可追溯性才决定这类工具能不能长期使用。</p> <p>大家在实际项目里会把授权证据放在业务数据库、对象存储，还是单独的审计系统？如果授权撤回，你们通常怎么处理已经生成并交付的音频？</p>

FlowSpeech 0 1

你们的Codex额度提前耗完了没？戒断反应如何？

<p>我在第三天就消耗了只剩1%，忍了一天，然后今天干脆用这最后的1%，开着5.6 Sol 极高强推我一个提示词笔记本应用的功能落地。最终用时3小时，居然还是跑完了。但是现在还是出现一些戒断反应，感觉啥也做不了，就无精打采的，困。</p> <p>我做了一个Prompt Notebook，专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来，进行身份设定，以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面： <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流，支持关键词或标签搜索： <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面，可以复制提示词，分享提示词，点击分享还有分享短链：（https://prompt.jintao.co.uk/share/20260806LfsmY） <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了，我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善，可能还要虫子要抓。弄好了，打算放GitHub开源。</p> <p>有朋友想试试的么？</p>

shynloc 2 4

一个体会，Codex 这种现代 Agent，每天一个变，几天不用就有新惊喜

<p>当然我说的也包括 Claude Code，新功能日新月异，还有就是 AI 能力提升以后，可以做的东西日新月异。还有各种工作流方法日新月异。</p> <p>更好玩的是，我最近经历过很多次，你跟人介绍现在 Codex 可以做到什么样子，他们都觉得很厉害。但是你现场一演示，他们的震撼就更加完全不同了。所以，这种东西，需要大量的 Workshop 去沟通交流，光看文字很难讲清楚，直播、视频也越来越重要了。</p>

tinyfool 1 89

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了，不知道这个谈论的运营现在怎么样，开发人员是不是原来的人，前端UI做得不太好</p>

梁建溢 5 36

开放权重模型追上前沿：安全护栏为什么没有一起追上