Mistral发布Shieldstral 1.0 3B：开源可调策安全分类器

策略即提示：颠覆传统内容审核范式

Shieldstral 1.0 3B将内容安全审核重构为一个单一的‘是/否’问题判断任务，而非依赖预设固定危害类别体系。传统护栏模型（guardrail models）通常将分类体系硬编码进权重中，导致跨场景迁移需重新训练——同一内容在网络安全研究工具中或属合理，在心理健康平台却可能构成风险。Shieldstral反其道而行之：运营方在推理时以自然语言编写策略问题，模型仅通过一次前向传播即输出校准后的连续安全分值。

技术架构与部署友好性

模型基于Ministral-3-3B-Base-2512构建，原生集成Pixtral视觉编码器，开源协议为Apache 2.0。其文本安全平均F1达84.9%，与GPT-OSS-Safeguard-20B持平；多模态安全F1为83.8%，领先所有Mistral对比的基线模型。模型仅需16GB BF16显存，可在单GPU上运行，支持vLLM（≥0.26.0）、llama.cpp（GGUF量化格式Q8_0/Q5_K_M/Q4_K_M）、SGLang及Transformers等主流推理框架，并可通过Axolotl进行微调。

面向真实业务场景的灵活性

Shieldstral的‘单次推理、单token输出’设计大幅降低延迟与成本，显著优于基于推理的护栏方案。其16GB显存占用使早期AI创业团队无需采购第三方审核服务；开放许可与本地部署能力则满足中大型企业对VPC或本地化部署的数据驻留与审计要求。多租户SaaS厂商可复用同一模型检查点，为不同客户执行差异化策略。适用行业涵盖社交与用户生成内容平台、教育科技与儿童保护场景、医疗与心理健康应用、金融科技与保险客服自动化、游戏语音聊天、电商与广告创意审核，以及有主权合规要求的公共部门系统。

统一输入格式与动态策略执行

模型输入严格遵循三字段结构：<Instruct>（评估上下文与严格度）、<Query>（以单个是非问句表述的安全策略）、<Document>（待审文本、响应、图文对或带可选文字的图像）。推理时，模型仅解嵌‘是’与‘否’两token ID，并经softmax归一化为0–1连续分值（阈值τ=0.5）。该设计将提示审核、响应审核、拒答识别与毒性检测统一为同一任务，策略完全由提示承载。

数据构建与训练方法

性能优势源于数据工程而非模型规模：共使用约5410万样本，含4520万开源文本、440万合成对比文本、450万图文数据。所有数据经模板化统一层转换为指令–查询–文档格式，并引入随机措辞与严格度校准（如对抗性越狱样本用高严格度，响应质量数据用宽松设定）。关键创新在于对比生成——大模型将安全文本重写为违反特定类别的不安全变体，但刻意避开邻近类别，从而教会模型精准识别‘违反哪条策略’，而非粗粒度的‘安全/不安全’二分。图像数据因难以合成，辅以通用图像数据集作负样本、覆盖14个视觉子类的查询变异，以及视觉-语言重排序器过滤。

实测性能表现

文本安全方面，Shieldstral以最小参数量（3B）与GPT-OSS-Safeguard-20B并列84.9%平均F1，在ToxicChat（84.1）、HarmBench（99.4）和Aegis v2响应（87.2）等子项上胜出。多模态安全整体得分为83.8%，高于OmniGuard-7B（77.6%），并在VLGuard（97.7）和UnsafeBench（81.8）上领先；仅在LlavaGuard-7B专属基准（81.4）上稍逊。