Llama Guard 4

Was Llama Guard 4 ist und wer dahintersteckt

Llama Guard 4 ist ein Sicherheitsmodell von Meta. Es ist kein Chatbot, mit dem du dich unterhalten kannst. Stattdessen schalten Entwickler es vor oder nach ein Chat-Modell, um Ein- und Ausgaben zu prüfen. Erhält Llama Guard 4 einen Nutzer-Prompt oder die Antwort eines Modells, liefert es ein kurzes Urteil: „safe“ oder „unsafe“, gefolgt von den erkannten Gefahrenkategorien. Es funktioniert mit Text und Bildern – auch mit mehreren Bildern in einem Prompt.

Laut Metas Model Card hat Llama Guard 4 12 Milliarden Parameter und eine Dense-Architektur. Meta entwickelte es auf Basis eines vortrainierten Llama 4 Scout Checkpoints: Die gerouteten Experten wurden entfernt, sodass nur der Shared Expert übrig blieb, und das Ergebnis wurde gezielt für die Sicherheitsklassifizierung feinabgestimmt. Tokenizer und Vision-Encoder teilt es sich mit Llama 4 Scout und Maverick; zudem läuft es auf einer einzelnen GPU. Auf OpenRouter wurde es am 30. April 2025 gelistet – wenige Wochen nach dem Start von Llama 4 – und steht unter der Llama 4 Community License bereit.

Die Llama Guard-Familie

Meta hat zusammen mit seinen Llama-Releases bereits mehrere Versionen von Llama Guard veröffentlicht. Llama Guard 4 fasst zwei bisher getrennte Modelle – Llama Guard 3 8B für Text und Llama Guard 3 11B Vision für Bilder – in einem einzigen Klassifikator zusammen. Meta kombiniert es mit weiteren offenen Sicherheitstools; so verweist die Model Card etwa auf Llama Prompt Guard 2, um Prompt-Angriffe wie Jailbreaks abzufangen.

Was geprüft wird: die Gefahrenkategorien

Llama Guard 4 basiert auf der Gefahrentaxonomie von MLCommons, ergänzt um eine zusätzliche Kategorie für die Tool-Nutzung. Wird ein Inhalt als unsicher eingestuft, gibt das Modell die passenden Kategorien aus:

„Fachliche Beratung“ umfasst Antworten mit spezifischen Finanz-, Medizin- oder Rechtsberatungen sowie Aussagen, die gefährliche Aktivitäten oder Objekte fälschlicherweise als sicher darstellen.

Stärken von Llama Guard 4

• Input-Filterung. Prompts prüfen, bevor das Hauptmodell sie sieht, und offensichtlich schädliche Anfragen direkt stoppen.
• Output-Filterung. Antworten des Hauptmodells vor der Ausgabe prüfen. So hat das Modell die Chance, sicher zu antworten, und wird nur blockiert, wenn die Antwort tatsächlich problematisch ist.
• Bilder. Prompts klassifizieren, die Text mit einem oder mehreren Bildern kombinieren – reine Text-Filter konnten das bisher nicht.
• Viele Sprachen. Es unterstützt Englisch sowie die Sprachen von Llama Guard 3, die Meta als Deutsch, Französisch, Hindi, Italienisch, Portugiesisch, Spanisch und Thai angibt.

Meta betont, dass die Kombination aus Input- und Output-Filterung zusätzlichen Schutz bietet. In internen Tests führte die Input-Filterung zudem zu höheren Ablehnungsraten als die reine Output-Filterung.

Einschränkungen im Überblick

• Es ist ein Modell, kein festes Regelwerk. Es kann schädliche Inhalte übersehen oder harmlose fälschlicherweise blockieren. Laut Meta kann die Erkennungsrate in Bereichen leiden, die gesunden Menschenverstand oder bestimmte Sprachkenntnisse erfordern.
• Fehlende Faktenprüfung. Kategorien wie Verleumdung, geistiges Eigentum oder Wahlen erfordern oft aktuelle Fakten. Für sensible Anwendungen empfiehlt Meta hier komplexere Systeme.
• Prompt-Angriffe. Als Sprachmodell kann es durch Adversarial Attacks oder Prompt Injections ausgetrickst werden.
• Viele Bilder. Getestet wurde es überwiegend mit wenigen Bildern pro Prompt – bei deutlich mehr Bildern können die Ergebnisse variieren.

So nutzt du Llama Guard 4 offiziell

Die Modellgewichte findest du auf Hugging Face unter meta-llama/Llama-Guard-4-12B, inklusive Beispielcode für die Transformers-Bibliothek in Metas Model Card. Bestätige einfach die Lizenz auf der Modellseite, um die Dateien herunterzuladen. OpenRouter listet das Modell mit einem Kontextfenster von 163.840 Tokens für 0,18 $ pro Million Input-Tokens und 0,18 $ pro Million Output-Tokens (Listenpreis OpenRouter, Stand Okt 2026).

Als Llama 4-Modell unterliegt es der Llama 4 Community License und den Acceptable Use Policies. Dazu gehören der Hinweis „Built with Llama“ bei entsprechenden Produkten sowie gesonderte Vorgaben für multimodale Modelle in der EU. Eine verständliche Übersicht findest du auf unserer Lizenzseite; wie du Llama-Modelle per Code ansteuerst, zeigt dir unser API-Guide.

Datenschutz-Hinweise

Ein Sicherheits-Klassifikator liest jede Nachricht, die er prüft. Behandle ihn daher wie jeden anderen Teil deiner AI-Pipeline: Nutzt du einen Cloud-Anbieter, gelten dessen Datenschutzbestimmungen; hostest du ihn selbst, bleiben die Daten auf deinen eigenen Servern. Praktische Tipps für Nutzer findest du in unserem Guide zu AI-Datenschutz und Sicherheit.

Llama Guard 4 im Vergleich

Im Vergleich zu Llama Guard 3 erreicht oder übertrifft Version 4 laut Meta die bisherigen Text- und Vision-Filter – vereint in einem Modell statt zweien. Im Vergleich zu Chat-Modellen wie Llama 4 Scout ist es deutlich schlanker und rein auf Klassifizierung ausgelegt; es generiert keine Antworten. Wenn du Anwendungen auf Basis offener Modelle entwickelst, ist ein Guard-Modell wie dieses ein wichtiger Sicherheitsbaustein – neben klaren Nutzungsregeln, Rate Limits und menschlicher Überprüfung.

FAQ

Kann ich auf Llama.Online mit Llama Guard 4 chatten?

Nein, Llama Guard 4 ist nicht in unserem Chat verfügbar. Es ist ein Klassifikator für Entwickler, kein Dialogmodell.

Was gibt Llama Guard 4 aus?

Ein kurzes Texturteil: „safe“ oder „unsafe“, ergänzt durch Kategorie-Codes wie S9 für unterschiedslose Waffen.

Funktioniert es mit Bildern?

Ja. Es kann Prompts analysieren, die Text mit einem oder mehreren Bildern kombinieren.

Ist Llama Guard 4 kostenlos?

Die Modellgewichte können unter der Llama 4 Community License kostenlos heruntergeladen werden. Gehostete APIs rechnen nach verbrauchten Tokens ab.