Shieldstral

Shieldstral 是 Mistral 推出的 3B 开源多模态安全护栏模型，旨在为 AI 应用提供实时、灵活的内容安全防护。它允许开发者通过自然语言定义安全策略，并在推理时动态应用，无需重新训练模型。该模型能够同时评估文本和图像，从单一 token 输出中快速判断内容是否安全，且可在单个 16GB GPU 上本地运行，兼顾隐私与效率。

核心功能

• 多模态内容审核：同时处理文本和图像输入，识别违规内容，如暴力、仇恨言论、色情等。
• 自然语言策略定义：用户可以用日常语言描述安全规则，例如“禁止出现血腥画面”或“不允许涉及政治敏感词汇”，模型会据此进行判断。
• 单 token 输出：通过高效的设计，模型仅需输出一个 token 即可表示安全或违规，极大降低推理延迟。

主要特性

• 轻量高效：仅 3B 参数，可部署在消费级 GPU 上，无需高性能服务器。
• 灵活定制：无需微调即可根据业务需求动态调整安全策略，适应不同场景。
• 本地部署：数据不出本地，保障隐私安全，适合敏感行业。
• 开源可扩展：基于开放权重，开发者可自由集成和二次开发。

适用场景

• 内容社区：实时过滤用户生成的文本和图片，维护社区环境。
• 客服系统：检测对话中的不当内容，确保服务合规。
• AI 应用开发：为聊天机器人、图像生成工具等增加安全护栏，防止滥用。

Shieldstral 为 AI 安全提供了一种全新范式，让安全防护变得简单、灵活且高效。