Llama Guard 4
Llama Guard 4 并不是聊天机器人，而是一个安全分类模型。它用于审核提示词和模型回复（包括图像），并按类别判定其是否合规安全。
什么是 Llama Guard 4 以及由谁开发
Llama Guard 4 是 Meta 推出的一款安全防护模型。它不是供你直接聊天的对话机器人，而是由开发者部署在聊天模型旁，用于审核输入和输出内容。面对用户提示词或模型的回复，Llama Guard 4 会给出一个简短的判定结果：输出“safe”（安全），或输出“unsafe”（不安全）并附带检测到的风险类别。它不仅支持纯文本，还支持图像分析，甚至能单次处理包含多张图片的提示词。
根据 Meta 的模型卡片（Model Card），Llama Guard 4 拥有 120 亿参数，采用稠密（dense）架构。Meta 在构建它时，采用了预训练的 Llama 4 Scout 检查点，移除了路由专家网络（routed experts），仅保留共享专家（shared expert），随后针对安全分类任务进行了微调。它与 Llama 4 Scout 和 Maverick 共享分词器及视觉编码器，单张 GPU 即可运行。该模型于 2025 年 4 月 30 日（即 Llama 4 发布数周后）上线 OpenRouter，遵循 Llama 4 Community License 开源协议发布。
Llama Guard 系列
Meta 伴随历代 Llama 的发布推出了多个版本的 Llama Guard。Llama Guard 4 将以往两个独立的模型——用于文本的 Llama Guard 3 8B 和用于图像的 Llama Guard 3 11B Vision——合二为一，整合为单个分类器。Meta 还将其与其他开源安全工具搭配使用；例如，模型卡片推荐搭配 Llama Prompt Guard 2 来防御越狱攻击等恶意提示词注入。
它能检测什么：风险类别
Llama Guard 4 基于 MLCommons 风险分类标准训练，并额外增加了一个工具调用类别。当它将某段内容标记为不安全时，会指出对应的类别代码：
| 代码 | 类别 | 代码 | 类别 |
|---|---|---|---|
| S1 | 暴力犯罪 | S8 | 知识产权侵权 |
| S2 | 非暴力犯罪 | S9 | 无差别杀伤性武器 |
| S3 | 性相关犯罪 | S10 | 仇恨言论 |
| S4 | 儿童性剥削 | S11 | 自杀与自残 |
| S5 | 诽谤诋毁 | S12 | 色情内容 |
| S6 | 专业领域建议 | S13 | 选举干预 |
| S7 | 侵犯隐私 | S14 | 滥用代码解释器（仅限文本） |
“专业领域建议”涵盖提供专业金融、医疗或法律建议的回复，或声称危险活动、物品为安全的言论。
Llama Guard 4 的核心优势
- 输入过滤。在主模型处理用户提示词前进行拦截，及早阻断明显的有害请求。
- 输出过滤。在向用户展示前审核主模型的回复，这样既能给模型正常安全回应的机会，又仅在回复确实违规时才触发拦截。
- 多模态图像支持。可对图文混合或包含多张图片的提示词进行分类，弥补了此前纯文本防护模型的不足。
- 多语言支持。除了英语，还支持 Llama Guard 3 涵盖的语言。据 Meta 官方说明，包含法语、德语、印地语、意大利语、葡萄牙语、西班牙语和泰语。
Meta 指出，结合使用输入和输出过滤能提供更完善的安全性，且在其内部测试中，输入过滤带来的拒答率提升幅度高于输出过滤。
需要注意的局限性
- 它本质上是一个模型，而非硬性规则库。它可能会漏判有害内容，也可能误判无害内容。Meta 的模型卡片指出，在需要常识判断或特定语种的环境下，其表现可能会受到训练数据的限制。
- 无法核实事实真相。诸如诽谤、知识产权和选举等类别，往往需要依赖最新的客观事实才能判定，Meta 建议在涉及此类敏感场景时部署更为复杂的系统。
- 提示词攻击风险。作为语言模型，它同样可能被对抗性攻击或提示词注入攻击所蒙骗。
- 超多图像场景。该模型主要针对包含少量图片的提示词进行了测试，处理海量图片时的表现可能会有所不同。
如何获取官方 Llama Guard 4
模型权重已托管在 Hugging Face（名称为 meta-llama/Llama-Guard-4-12B），Meta 还在模型卡片中提供了针对 Transformers 库的示例代码。在模型页面同意相关协议后即可解锁下载。OpenRouter 也上线了该模型，上下文窗口为 163,840 tokens，价格为每百万输入 token $0.18、每百万输出 token $0.18（OpenRouter 牌价，2026 年 10 月）。
作为 Llama 4 家族的一员，它受 Llama 4 Community License 和可接受使用政策的约束，包括使用该模型的衍生产品需标注“Built with Llama”，并需遵守欧盟针对多模态模型的专属条款。欢迎参阅我们的开源协议说明了解通俗解读，或查看 API 调用指南学习如何用代码接入 Llama 模型。
隐私注意事项
安全分类器需要读取其审查的每一条消息，因此请像对待 AI 链路中的其他环节一样审慎处置：如果你通过云端服务商调用，将适用该服务商的隐私政策；如果你自行本地托管，数据则保留在你的自有服务器上。我们的 AI 隐私与安全指南为用户介绍了相关良好习惯。
Llama Guard 4 横向对比
与 Llama Guard 3 相比，Meta 报告称版本 4 在将原本分离的文本和视觉两套防护合并为单一模型的同时，性能基本持平或有所超越。与 Llama 4 Scout 等对话模型相比，它的体积小得多，且只负责打标签分类，并不生成对话回复。如果你正在基于开源模型构建应用，这类防护模型可以作为一道安全屏障，与明确的用户规则、访问限流及人工审核协同运作。
常见问题
我可以在 Llama.Online 上与 Llama Guard 4 聊天吗？
不行，Llama Guard 4 未接入我们的聊天功能。它是面向开发者的安全分类模型，并非对话模型。
Llama Guard 4 的输出格式是怎样的？
它会输出简短的文本判定：要么是“safe”（安全），要么是“unsafe”（不安全）并带有类似 S9（无差别杀伤性武器）这样的风险类别代码。
它支持图片识别吗？
支持。它可以对混合了文本与一张或多张图片的提示词进行安全分类。
Llama Guard 4 可以免费使用吗？
在遵守 Llama 4 Community License 的前提下，模型权重可供免费下载。若使用第三方托管的云端 API，则按 token 计费。