Llama Guard 4

Co je Llama Guard 4 a kdo za ním stojí

Llama Guard 4 je bezpečnostní model od společnosti Meta. Není to chatbot, se kterým byste si mohli povídat. Vývojáři jej místo toho nasazují po boku konverzačního modelu, aby kontroloval vstupy i výstupy. Na základě uživatelského zadání nebo odpovědi modelu vydá Llama Guard 4 stručný verdikt: „safe“ (bezpečné), nebo „unsafe“ (nebezpečné) s výčtem zjištěných rizikových kategorií. Funguje s textem i obrázky, a to včetně několika obrázků v jednom promptu.

Podle modelové karty společnosti Meta má Llama Guard 4 12 miliard parametrů a hustou (dense) architekturu. Meta jej vytvořila z předtrénovaného kontrolního bodu modelu Llama 4 Scout: odstranila směrované experty, takže zůstal pouze sdílený expert, a výsledek doladila pro klasifikaci bezpečnosti. Sdílí tokenizer a vizuální enkodér s modely Llama 4 Scout a Maverick a dokáže běžet na jediné GPU. Na platformě OpenRouter se objevil 30. dubna 2025, několik týdnů po vydání Llama 4, a je k dispozici pod licencí Llama 4 Community License.

Rodina modelů Llama Guard

Meta vydala několik verzí Llama Guard souběžně se svými hlavními modely Llama. Llama Guard 4 spojuje dřívější dva samostatné modely – textový Llama Guard 3 8B a vizuální Llama Guard 3 11B Vision – do jednoho univerzálního klasifikátoru. Meta jej doplňuje dalšími otevřenými bezpečnostními nástroji; modelová karta odkazuje například na Llama Prompt Guard 2 pro detekci útoků na prompty (jailbreaků).

Co kontroluje: rizikové kategorie

Llama Guard 4 je vytrénovaný na taxonomii rizik MLCommons, rozšířené o jednu kategorii pro používání nástrojů. Pokud označí obsah jako nebezpečný, uvede konkrétní kategorie:

Kategorie „Odborné poradenství“ zahrnuje odpovědi nabízející specializované finanční, lékařské či právní rady, nebo tvrzení, že nebezpečné činnosti či předměty jsou bezpečné.

V čem Llama Guard 4 vyniká

• Filtrování vstupu. Zkontroluje uživatelský prompt ještě předtím, než se dostane k hlavnímu modelu, a včas zastaví zjevně škodlivé požadavky.
• Filtrování výstupu. Prověří odpověď hlavního modelu před jejím zobrazením. Model tak dostane šanci odpovědět bezpečně a zablokuje se pouze v případě, že vygeneruje nevhodný obsah.
• Práce s obrázky. Klasifikuje zadání kombinující text s jedním či více obrázky, což starší čistě textové verze neuměly.
• Podpora mnoha jazyků. Podporuje angličtinu a jazyky modelu Llama Guard 3, mezi které Meta řadí francouzštinu, němčinu, hindštinu, italštinu, portugalštinu, španělštinu a thajštinu.

Meta uvádí, že nasazení vstupního i výstupního filtrování zajišťuje vyšší úroveň zabezpečení a že podle interních testů vstupní filtrování zvyšovalo míru odmítnutí více než filtrování výstupu.

Známá omezení

• Je to model, nikoli neomylný soubor pravidel. Může přehlédnout škodlivý obsah nebo naopak označit neškodné zadání. Podle Mety může být výkon limitován trénovacími daty v oblastech vyžadujících selský rozum nebo specifické jazykové znalosti.
• Fakta, která nedokáže ověřit. Kategorie jako pomluva, duševní vlastnictví nebo volby často vyžadují aktuální faktické informace. Pro citlivá nasazení v těchto oblastech Meta doporučuje komplexnější systémy.
• Útoky na prompty. Jelikož jde o jazykový model, mohou jej oklamat promyšlené techniky prompt injection nebo manipulativní zadání.
• Větší množství obrázků. Model byl testován převážně na zadáních s několika málo obrázky, při větším počtu se proto mohou výsledky lišit.

Kde Llama Guard 4 oficiálně získat

Váhy modelu najdete na platformě Hugging Face pod označením meta-llama/Llama-Guard-4-12B, kde modelová karta od Mety obsahuje i ukázkový kód pro knihovnu Transformers. Pro stažení souborů stačí na stránce modelu odsouhlasit licenční podmínky. OpenRouter jej nabízí s kontextovým oknem 163 840 tokenů za cenu 0,18 $ za milion vstupních a 0,18 $ za milion výstupních tokenů (ceník OpenRouter, říjen 2026).

Jakožto model řady Llama 4 podléhá licenci Llama 4 Community License a zásadám přijatelného užití, včetně povinnosti uvádět označení „Built with Llama“ u produktů, které jej využívají, a samostatných pravidel pro multimodální modely v EU. Srozumitelné shrnutí najdete na naší stránce o licenci a návod na volání modelů Llama z kódu nabízí náš průvodce API.

Poznámky k ochraně soukromí

Bezpečnostní klasifikátor čte každou zprávu, kterou posuzuje. Přistupujte k němu proto stejně jako k jakékoli jiné součásti své AI infrastruktury: pokud jej voláte přes cloudového poskytovatele, platí jeho podmínky ochrany dat; pokud jej hostujete sami, data zůstávají na vašich serverech. Užitečné návyky pro uživatele přináší náš průvodce soukromím a bezpečností v AI.

Jak si Llama Guard 4 stojí v porovnání

Ve srovnání s Llama Guard 3 dosahuje verze 4 podle Mety srovnatelných či lepších výsledků než dřívější textové a vizuální nástroje, a to v rámci jediného sjednoceného modelu. Oproti chatovacím modelům, jako je Llama 4 Scout, je výrazně menší a slouží výhradně ke klasifikaci – odpovědi sám negeneruje. Pokud vyvíjíte aplikaci na otevřených modelech, představuje takový ochranný model jednu z důležitých bezpečnostních vrstev, která by měla doplňovat jasná pravidla pro uživatele, limity dotazů a lidskou kontrolu.

Často kladené otázky (FAQ)

Mohu s Llama Guard 4 chatovat na Llama.Online?

Ne, Llama Guard 4 v našem chatu nenajdete. Jde o klasifikátor určený pro vývojáře, nikoli o model pro konverzaci.

Co Llama Guard 4 vrací jako výstup?

Krátký textový verdikt: „safe“, nebo „unsafe“ doplněný o kód kategorie, například S9 pro zbraně hromadného ničení.

Pracuje i s obrázky?

Ano. Dokáže posuzovat prompty kombinující text s jedním či více obrázky.

Je Llama Guard 4 zdarma?

Váhy modelu jsou volně ke stažení pod licencí Llama 4 Community License. Provozovatelé cloudových API si účtují poplatky podle počtu tokenů.