Mistral 发布 30 亿参数的开放权重安全分类器 Shieldstral。它可以同时检查文本、图片、提示与回答，部署者通过自然语言写入政策问题，模型用一个 yes 或 no token 的概率给出风险分数，不需要为每套规则重新训练。

一句话结论：Shieldstral 把内容安全从固定标签表改成可编程判断，降低了定制和本地部署门槛；但自然语言政策越灵活，规则歧义、阈值校准和跨语言一致性就越需要人工验证。

模型输入被组织成 <Instruct><Query><Document>：指令描述评估方式，Query 是一条具体政策，例如“内容是否提供制造爆炸物的可执行步骤”，Document 则是用户提示、模型回答或图片。系统读取 yes/no logits，经 softmax 转成连续分数，部署者自行设置拦截阈值。

这种设计的优势是政策可以在推理时更换。同一个模型既能判断未成年人安全，也能检查企业机密、欺诈或特定产品规则。开发者不必等待供应商增加新标签，也可以并行运行多条政策，分别记录风险，而不是把所有问题压成一个“安全/不安全”结论。

Mistral 称，Shieldstral 在其保留评测上达到或超过参数规模最高为它七倍的开放安全模型，并能在一张 16GB Nvidia GPU 上运行。公司还把文本和视觉安全数据统一训练，使用相近政策的对比样本、视觉负样本和重排序器，再合并多个 LoRA 检查点。

这些数字仍是厂商评测。安全分类器对数据分布、提示写法和政策措辞高度敏感，保留测试不能代替客户自己的误杀与漏判分析。Mistral 也把多语言、长文档和更广泛的多模态安全列入后续工作，说明 3B 模型的覆盖并非完整。

开放权重让企业可以在内网检查敏感内容、固定版本并审计阈值，但也意味着模型文件本身不能强制执行政策。Shieldstral 是部署管线中的一个传感器，不是访问控制。高风险动作仍需权限隔离、工具白名单、人工审批和事后日志。

关键事实

• Shieldstral 是 30 亿参数、多模态、Apache 2.0 许可的开放权重分类器
• 支持提示、回答、提示回答对以及图片与文字组合
• 政策以自然语言问题在推理时提供，输出基于 yes/no logits 的风险分数
• Mistral 称单张 16GB Nvidia GPU 可运行，性能对比来自公司保留评测

OC 判断

小型可编程分类器适合成为企业的本地安全基础件，尤其能减少把敏感提示发送给另一家审核 API 的需求。它的价值取决于评测工程：政策版本、语言覆盖、阈值和申诉样本都要像代码一样管理。

为什么重要

• 对开发者：可以用同一模型快速试验多套规则，但要保存政策文本和模型版本。
• 对企业：本地部署有助于数据控制，仍需用真实业务样本校准误杀和漏判成本。
• 对开源生态：轻量护栏降低安全工具门槛，却不能阻止下游主动移除它。

参考来源

• Mistral AI：Introducing Shieldstral