Llama Guard 4

Wat Llama Guard 4 is en wie het maakt

Llama Guard 4 is een veiligheidsmodel van Meta. Het is geen chatbot waarmee je kunt praten. In plaats daarvan plaatsen ontwikkelaars het naast een chatmodel om te controleren wat erin gaat en wat eruit komt. Op basis van een gebruikersprompt of het antwoord van een model geeft Llama Guard 4 een kort oordeel: "safe", of "unsafe" gevolgd door de gevonden risicocategorieën. Het werkt met tekst en met afbeeldingen, inclusief meerdere afbeeldingen in één prompt.

Volgens de modelkaart van Meta heeft Llama Guard 4 12 miljard parameters en een dense-architectuur. Meta bouwde het door een vooraf getraind Llama 4 Scout-checkpoint te nemen, de routed experts te verwijderen zodat alleen de shared expert overbleef, en het resultaat vervolgens te finetunen voor veiligheidsclassificatie. Het deelt zijn tokenizer en vision-encoder met Llama 4 Scout en Maverick en kan op een enkele GPU draaien. Het werd op 30 april 2025 toegevoegd aan OpenRouter, een paar weken na de lancering van Llama 4, en is uitgebracht onder de Llama 4 Community License.

De Llama Guard-familie

Meta heeft verschillende Llama Guard-versies uitgebracht naast zijn Llama-releases. Llama Guard 4 combineert wat voorheen twee afzonderlijke modellen waren — Llama Guard 3 8B voor tekst en Llama Guard 3 11B Vision voor afbeeldingen — in één enkele classifier. Meta combineert het met andere open veiligheidstools; zo verwijst de modelkaart naar Llama Prompt Guard 2 voor het detecteren van prompt-aanvallen zoals jailbreak-pogingen.

Wat het controleert: de risicocategorieën

Llama Guard 4 is getraind op de risicotaxonomie van MLCommons, plus één extra categorie voor toolgebruik. Wanneer het iets als onveilig markeert, noemt het de categorieën:

"Gespecialiseerd advies" omvat antwoorden die specialistisch financieel, medisch of juridisch advies geven, of die suggereren dat gevaarlijke activiteiten of voorwerpen veilig zijn.

Waar Llama Guard 4 goed in is

• Invoerfiltering. De prompt van een gebruiker controleren voordat het hoofdmodel deze ziet, en duidelijk schadelijke verzoeken vroegtijdig stoppen.
• Uitvoerfiltering. Het antwoord van het hoofdmodel controleren voordat het wordt getoond, zodat het model de kans krijgt om veilig te reageren en alleen wordt geblokkeerd als het antwoord onveilig is.
• Afbeeldingen. Prompts classificeren die tekst combineren met een of meer afbeeldingen, iets wat eerdere text-only guards niet konden.
• Veel talen. Het ondersteunt Engels plus de talen van Llama Guard 3, die Meta noemt als Frans, Duits, Hindi, Italiaans, Portugees, Spaans en Thai.

Meta merkt op dat het gebruik van zowel invoer- als uitvoerfiltering extra beveiliging biedt, en dat in interne tests invoerfiltering het weigeringspercentage meer verhoogde dan uitvoerfiltering.

Beperkingen om rekening mee te houden

• Het is een model, geen wetboek. Het kan schadelijke inhoud missen en onschadelijke inhoud markeren. Volgens de modelkaart van Meta kunnen de prestaties worden beperkt door de trainingsdata op gebieden die gezond verstand of specifieke talen vereisen.
• Feiten die het niet kan controleren. Categorieën zoals smaad, intellectueel eigendom en verkiezingen vereisen vaak actuele feiten om te beoordelen. Meta raadt voor gevoelige toepassingen daar complexere systemen aan.
• Prompt-aanvallen. Als taalmodel kan het worden misleid door adversarial attacks of prompt injection.
• Veel afbeeldingen. Het is voornamelijk getest met prompts die enkele afbeeldingen bevatten; bij veel meer afbeeldingen kunnen de resultaten variëren.

Hoe je officieel toegang krijgt tot Llama Guard 4

De weights staan op Hugging Face als meta-llama/Llama-Guard-4-12B, waar de modelkaart van Meta ook voorbeeldcode bevat voor de Transformers-library. Accepteer de licentie op de modelpagina om toegang te krijgen tot de bestanden. OpenRouter biedt het aan met een contextvenster van 163.840 tokens voor $0,18 per miljoen invoertokens en $0,18 per miljoen uitvoertokens (OpenRouter-catalogusprijs, okt 2026).

Als Llama 4-model valt het onder de Llama 4 Community License en het beleid voor acceptabel gebruik, inclusief "Built with Llama" voor producten die het gebruiken en de aparte regels voor multimodale modellen in de EU. Zie onze licentiepagina voor een samenvatting in begrijpelijke taal, en onze API-gids voor het aanroepen van Llama-modellen via code.

Privacy-opmerkingen

Een veiligheidsclassifier leest elk bericht dat hij controleert, dus behandel het zoals elk ander onderdeel van je AI-pipeline: als je het aanroept via een cloudprovider, gelden de privacyvoorwaarden van die provider; als je het zelf host, blijven de gegevens op je eigen servers. Onze gids over AI-privacy en veiligheid behandelt goede gewoonten voor gebruikers.

Hoe Llama Guard 4 zich verhoudt tot alternatieven

Vergeleken met Llama Guard 3 meldt Meta dat versie 4 de eerdere tekst- en vision-guards ruwweg evenaart of overtreft, terwijl het één model is in plaats van twee. Vergeleken met chatmodellen zoals Llama 4 Scout is het veel kleiner en classificeert het alleen; het schrijft geen antwoorden. Als je een app bouwt op basis van open modellen, is een guard-model als dit één veiligheidslaag, naast duidelijke regels voor gebruikers, rate limits en menselijke controle.

Veelgestelde vragen

Kan ik chatten met Llama Guard 4 op Llama.Online?

Nee, Llama Guard 4 zit niet in onze chat. Het is een classifier voor ontwikkelaars, geen gespreksmodel.

Wat geeft Llama Guard 4 als uitvoer?

Een kort tekstueel oordeel: "safe", of "unsafe" plus categoriecodes zoals S9 voor wapens zonder onderscheid.

Werkt het met afbeeldingen?

Ja. Het classificeert prompts die tekst combineren met een of meer afbeeldingen.

Is Llama Guard 4 gratis te gebruiken?

De weights kunnen gratis worden gedownload onder de Llama 4 Community License. Gehoste API's rekenen kosten per token.