Llama Guard 4

Що таке Llama Guard 4 і хто його розробляє

Llama Guard 4 — це модель безпеки від Meta. Це не чат-бот для спілкування. Натомість розробники встановлюють її поруч із чат-моделлю, щоб перевіряти вхідні та вихідні дані. Отримавши запит користувача або відповідь моделі, Llama Guard 4 видає короткий вердикт: «safe» (безпечно) або «unsafe» (небезпечно) разом із категоріями виявлених загроз. Вона працює як із текстом, так і з зображеннями, зокрема з кількома картинками в одному запиті.

Згідно з карткою моделі від Meta, Llama Guard 4 має 12 мільярдів параметрів і щільну (dense) архітектуру. Meta створила її на основі попередньо навченого чекпойнта Llama 4 Scout, вилучивши маршрутизованих експертів (routed experts), щоб залишився лише спільний експерт (shared expert), після чого доробила результат для завдань класифікації безпеки. Вона використовує той самий токенізатор і зоровий енкодер, що й Llama 4 Scout та Maverick, і може запускатися на одному GPU. Модель з'явилася на OpenRouter 30 квітня 2025 року, через кілька тижнів після виходу Llama 4, і розповсюджується під ліцензією Llama 4 Community License.

Сімейство Llama Guard

Meta випустила вже кілька версій Llama Guard разом із основними релізами Llama. Llama Guard 4 об'єднує дві попередні окремі моделі — текстову Llama Guard 3 8B та мультимодальну Llama Guard 3 11B Vision — в один класифікатор. Meta рекомендує поєднувати її з іншими відкритими інструментами безпеки: наприклад, картка моделі посилається на Llama Prompt Guard 2 для захисту від атак на промпти, як-от спроб злому системи (jailbreak).

Що вона перевіряє: категорії загроз

Llama Guard 4 навчена на таксономії загроз MLCommons із додаванням однієї категорії для використання сторонніх інструментів. Якщо вміст позначається як небезпечний, модель вказує відповідні категорії:

«Спеціалізовані консультації» охоплюють відповіді, що містять вузькопрофільні фінансові, медичні чи юридичні поради, або ж стверджують про безпечність небезпечних занять чи предметів.

Переваги Llama Guard 4

• Фільтрація вхідних даних. Перевіряє запит користувача до того, як його отримає основна модель, заздалегідь відсікаючи відверто шкідливі інструкції.
• Фільтрація вихідних даних. Аналізує відповідь основної моделі перед її показом, даючи системі шанс безпечно відповісти й блокуючи повідомлення лише тоді, коли результат є неприйнятним.
• Робота з зображеннями. Класифікує запити, що містять текст разом із одним або кількома зображеннями, чого не вміли попередні суто текстові гарди.
• Багатомовність. Підтримує англійську та мови, знайомі Llama Guard 3: французьку, німецьку, гінді, італійську, португальську, іспанську та тайську.

Meta зазначає, що одночасне використання перевірки на вході та на виході забезпечує вищий рівень захисту, а під час внутрішніх тестів саме вхідна фільтрація частіше викликала відмову системи, ніж вихідна.

Обмеження, про які варто знати

• Це модель, а не збірка чітких правил. Вона може як пропускати шкідливий вміст, так і хибно блокувати безпечний. За інформацією Meta, ефективність залежить від навчальних даних, особливо якщо потрібен здоровий глузд чи специфічні мовні нюанси.
• Неможливість перевірити факти. Категорії на кшталт наклепу, авторського права чи виборів нерідко вимагають актуальних знань про світ, тому для чутливих завдань Meta радить складніші багаторівневі системи.
• Атаки через запити. Бувши мовною моделлю, вона залишається вразливою до цілеспрямованих маніпуляцій та ін'єкцій у промптах (prompt injection).
• Велика кількість картинок. Модель здебільшого тестували на промптах із невеликою кількістю зображень, тому з великими галереями точність може відрізнятися.

Як офіційно отримати Llama Guard 4

Ваги опубліковані на Hugging Face під назвою meta-llama/Llama-Guard-4-12B, де в картці моделі також наведено приклади коду для бібліотеки Transformers. Щоб завантажити файли, потрібно підтвердити умови ліцензії на сторінці моделі. На OpenRouter вона доступна з контекстним вікном у 163 840 токенів за ціною $0,18 за мільйон вхідних і $0,18 за мільйон вихідних токенів (ціна за прайсом OpenRouter, жовтень 2026 року).

Як частина покоління Llama 4, модель підпадає під дію Llama 4 Community License та політики прийнятного використання, зокрема вимогу зазначати «Built with Llama» у продуктах і дотримуватися спеціальних правил для мультимодальних моделей у ЄС. Прості пояснення дивіться на нашій сторінці про ліцензії, а про інтеграцію моделей Llama у код читайте в посібнику з API.

Конфіденційність

Класифікатор безпеки сканує кожне повідомлення, яке перевіряє, тож ставитися до нього слід як і до будь-якої іншої ланки вашої ШІ-інфраструктури: якщо ви надсилаєте запити через хмарного провайдера, діють його правила приватності; якщо розгортаєте модель самостійно — дані не залишають ваших серверів. Корисні поради для користувачів зібрано в нашому посібнику з безпеки та приватності в ШІ.

Як Llama Guard 4 виглядає на фоні аналогів

Порівняно з Llama Guard 3, версія 4 не поступається або й перевершує колишні текстові та зорові моделі, об'єднуючи їхні можливості в одному рішенні. Якщо порівнювати її з чат-моделями на кшталт Llama 4 Scout, вона відчутно легша і лише класифікує дані, не генеруючи текст. Якщо ви розробляєте сервіс на відкритих моделях, такий фільтр стане надійним рубежем безпеки в комплексі зі зрозумілими правилами для користувачів, лімітами запитів і ручною перевіркою.

Поширені запитання

Чи можна поспілкуватися з Llama Guard 4 на Llama.Online?

Ні, Llama Guard 4 немає в нашому чаті. Це класифікатор для розробників, а не модель для розмов.

Що саме видає Llama Guard 4?

Короткий текстовий вердикт: «safe» або «unsafe» з кодами відповідних категорій, наприклад, S9 для зброї невибіркового ураження.

Чи підтримує вона зображення?

Так. Вона вміє класифікувати запити, що поєднують текст із одним або кількома зображеннями.

Чи безкоштовна Llama Guard 4?

Ваги доступні для безкоштовного завантаження згідно з ліцензією Llama 4 Community License. Хмарні платформи через API беруть плату за використані токени.