Llama Guard 4

Cos'è Llama Guard 4 e chi lo sviluppa

Llama Guard 4 è un modello di sicurezza sviluppato da Meta. Non è un chatbot con cui puoi conversare: gli sviluppatori lo affiancano a un modello di chat per analizzare ciò che entra e ciò che esce. Ricevuto il prompt di un utente o la risposta di un modello, Llama Guard 4 emette un breve verdetto: "safe" (sicuro), oppure "unsafe" (non sicuro) seguito dalle categorie di rischio rilevate. Funziona sia con il testo che con le immagini, supportando anche più immagini nello stesso prompt.

In base alla scheda tecnica (model card) di Meta, Llama Guard 4 conta 12 miliardi di parametri e ha un'architettura densa. Meta lo ha realizzato partendo da un checkpoint pre-addestrato di Llama 4 Scout, rimuovendo gli esperti instradati per mantenere solo l'esperto condiviso ed eseguendo poi il fine-tuning per la classificazione di sicurezza. Condivide il tokenizer e il codificatore visivo con Llama 4 Scout e Maverick e può girare su una singola GPU. È arrivato su OpenRouter il 30 aprile 2025, poche settimane dopo il debutto di Llama 4, ed è distribuito con la Llama 4 Community License.

La famiglia Llama Guard

Meta ha pubblicato diverse versioni di Llama Guard in concomitanza con i rilasci di Llama. Llama Guard 4 unifica in un unico classificatore quelli che in precedenza erano due modelli distinti: Llama Guard 3 8B per il testo e Llama Guard 3 11B Vision per le immagini. Meta lo affianca ad altri strumenti aperti dedicati alla sicurezza; ad esempio, la scheda tecnica suggerisce Llama Prompt Guard 2 per rilevare attacchi ai prompt come i tentativi di jailbreak.

Cosa controlla: le categorie di rischio

Llama Guard 4 è addestrato sulla tassonomia dei rischi di MLCommons, a cui si aggiunge una categoria extra per l'uso dei tool. Quando segnala un contenuto non sicuro, specifica le relative categorie:

La voce "Consulenza specialistica" riguarda le risposte che forniscono pareri finanziari, medici o legali specialistici, o che descrivono come sicure attività o oggetti pericolosi.

I punti di forza di Llama Guard 4

• Filtraggio degli input. Esamina il prompt dell'utente prima che arrivi al modello principale, bloccando tempestivamente le richieste palesemente dannose.
• Filtraggio degli output. Verifica la risposta del modello principale prima di mostrarla, lasciandogli così l'opportunità di rispondere in modo sicuro e intervenendo solo se il testo finale è dannoso.
• Immagini. Classifica prompt che combinano testo e una o più immagini, operazione impossibile per i precedenti guard solo testuali.
• Supporto multilingue. Supporta l'inglese oltre alle lingue già gestite da Llama Guard 3, che Meta indica in francese, tedesco, hindi, italiano, portoghese, spagnolo e thailandese.

Meta sottolinea che combinare il filtraggio di input e output offre una protezione superiore, evidenziando come nei test interni il controllo degli input abbia fatto salire il tasso di rifiuto più rispetto a quello degli output.

Limiti da considerare

• È un modello, non un insieme rigido di regole. Può non rilevare contenuti dannosi o segnalare per errore elementi innocui. Meta avverte che le prestazioni possono risentire dei limiti dei dati di addestramento, soprattutto nei compiti che richiedono buonsenso o competenze linguistiche specifiche.
• Fatti non verificabili. Categorie come diffamazione, proprietà intellettuale ed elezioni richiedono spesso un riscontro sui fatti aggiornato: per questi ambiti sensibili Meta consiglia l'uso di sistemi più articolati.
• Attacchi ai prompt. Essendo un modello linguistico, può essere ingannato da prompt adversarial o tentativi di prompt injection.
• Grandi quantità di immagini. È stato testato perlopiù con prompt contenenti poche immagini; la precisione può quindi variare se ne vengono inviate molte contemporaneamente.

Come ottenere ufficialmente Llama Guard 4

I pesi sono disponibili su Hugging Face con il nome meta-llama/Llama-Guard-4-12B, dove la scheda tecnica di Meta include anche esempi di codice per la libreria Transformers. Per sbloccare i file basta accettare la licenza sulla pagina del modello. OpenRouter lo propone con una finestra di contesto di 163.840 token a 0,18 $ per milione di token in input e 0,18 $ per milione di token in output (listino OpenRouter, ott 2026).

Trattandosi di un modello Llama 4, è soggetto alla Llama 4 Community License e all'acceptable use policy, che prevedono l'obbligo della dicitura "Built with Llama" per i prodotti derivati e regole specifiche per i modelli multimodali nell'UE. Consulta la nostra pagina sulle licenze per un riassunto chiaro e la nostra guida alle API per richiamare i modelli Llama via codice.

Note sulla privacy

Un classificatore di sicurezza legge ogni singolo messaggio che analizza: consideralo a tutti gli effetti come qualsiasi altro componente della tua pipeline di AI. Se lo utilizzi tramite un fornitore cloud, si applicano le condizioni sulla privacy di quel servizio; se invece lo ospiti in locale, i dati restano sui tuoi server. La nostra guida a privacy e sicurezza con l'AI offre ottimi consigli pratici per tutti gli utenti.

Confronto con altri modelli

Rispetto a Llama Guard 3, Meta dichiara che la versione 4 eguaglia o supera i precedenti guard separati per testo e visione, offrendo tutti i vantaggi di un modello unico. Rispetto ai modelli di chat come Llama 4 Scout, è molto più compatto e si limita alla classificazione, senza generare risposte. Se stai sviluppando un'applicazione basata su modelli aperti, un guard come questo rappresenta un importante livello di protezione, da affiancare a policy chiare per gli utenti, rate limit e revisione umana.

Domande frequenti

Posso chattare con Llama Guard 4 su Llama.Online?

No, Llama Guard 4 non è presente nella nostra chat. È un classificatore per sviluppatori, non un modello conversazionale.

Cosa restituisce Llama Guard 4?

Un breve verdetto testuale: "safe", oppure "unsafe" accompagnato dai codici di categoria, come S9 per le armi a effetto indiscriminato.

Funziona con le immagini?

Sì. Classifica prompt che combinano testo con una o più immagini.

Llama Guard 4 è gratuito?

I pesi si possono scaricare gratuitamente secondo i termini della Llama 4 Community License. L'uso tramite API in hosting prevede invece un costo a consumo per token.