Llama Guard 4

Что такое Llama Guard 4 и кто его создает

Llama Guard 4 — это модель безопасности от Meta. Это не чат-бот для общения: разработчики ставят ее рядом с основной диалоговой моделью, чтобы проверять входящие и исходящие данные. Получив запрос пользователя или ответ модели, Llama Guard 4 выносит короткий вердикт: «safe» (безопасно) или «unsafe» (небезопасно) с указанием обнаруженных категорий угроз. Она умеет работать как с текстом, так и с изображениями, включая несколько картинок в одном запросе.

Согласно карточке модели от Meta, Llama Guard 4 содержит 12 миллиардов параметров и имеет плотную (dense) архитектуру. Meta создала ее на базе предобученного чекпоинта Llama 4 Scout: из него убрали маршрутизируемых экспертов, оставив только общего (shared expert), а затем дообучили модель для классификации угроз. Она использует те же токенизатор и модуль обработки изображений, что и Llama 4 Scout и Maverick, и может запускаться на одном GPU. Модель появилась на OpenRouter 30 апреля 2025 года — через несколько недель после запуска Llama 4 — и доступна по лицензии Llama 4 Community License.

Семейство моделей Llama Guard

Meta выпускает модели Llama Guard вместе с релизами основных моделей Llama. В Llama Guard 4 объединили то, что раньше было двумя отдельными моделями: текстовую Llama Guard 3 8B и графическую Llama Guard 3 11B Vision. Meta рекомендует сочетать ее с другими открытыми инструментами защиты — например, в описании модели упомянут Llama Prompt Guard 2 для выявления джейлбрейков и атак на промпты.

Что проверяет модель: категории угроз

Llama Guard 4 обучена на классификаторе угроз MLCommons плюс одна дополнительная категория для вызова внешних инструментов. Если контент признан небезопасным, модель указывает код категории:

Пункт «Специализированные советы» касается финансовых, медицинских или юридических рекомендаций экспертного уровня, а также утверждений о том, что опасные действия или предметы якобы безвредны.

Преимущества Llama Guard 4

• Фильтрация входящих запросов. Проверяет запрос пользователя до того, как его увидит основная модель, и заранее отсекает явно вредоносные промпты.
• Фильтрация ответов. Проверяет ответ основной модели перед выводом на экран: это дает модели возможность ответить безопасно и блокирует результат, только если сам ответ нарушает правила.
• Работа с изображениями. Классифицирует запросы, содержащие текст и одну или несколько картинок, чего не умели ранние текстовые версии.
• Поддержка многих языков. Поддерживает английский, а также языки Llama Guard 3: французский, немецкий, хинди, итальянский, португальский, испанский и тайский.

Meta отмечает, что одновременная проверка входа и выхода обеспечивает максимальную защиту, причем во внутренних тестах фильтрация входящих запросов приводила к отказам чаще, чем проверка готовых ответов.

Ограничения модели

• Это нейросеть, а не свод жестких правил. Она может пропускать вредный контент или ошибочно блокировать безобидный. Согласно документации Meta, ее надежность зависит от обучающих данных в задачах, требующих житейского здравого смысла или знания редких языков.
• Не умеет проверять факты. Категории вроде клеветы, авторских прав или выборов часто требуют актуальных знаний о мире. Для таких задач Meta советует использовать более сложные комплексные системы.
• Уязвимость к атакам. Будучи языковой моделью, она остается уязвимой для инъекций промптов (prompt injection) и целевых манипуляций.
• Множество картинок. Модель тестировали преимущественно на небольшом числе изображений в одном запросе, поэтому при отправке большого объема картинок качество может снижаться.

Где официально получить Llama Guard 4

Веса модели выложены на Hugging Face под именем meta-llama/Llama-Guard-4-12B, где также есть примеры кода для библиотеки Transformers. Чтобы скачать файлы, нужно принять лицензионное соглашение на странице модели. На OpenRouter она доступна с контекстным окном в 163 840 токенов по цене $0,18 за миллион входных и $0,18 за миллион выходных токенов (тарифы OpenRouter, октябрь 2026 г.).

Будучи моделью линейки Llama 4, она регулируется соглашением Llama 4 Community License и правилами допустимого использования: в проектах на ее базе нужно указывать атрибуцию "Built with Llama", а для мультимодальных моделей в ЕС действуют отдельные требования. Простое объяснение правил читайте на нашей странице лицензий, а в руководстве по API описано, как вызывать модели Llama из кода.

Конфиденциальность данных

Модель безопасности анализирует каждое переданное ей сообщение, поэтому к ней применимы стандартные правила работы с ИИ: при обращении через облачный API действуют правила соответствующего провайдера; при локальном развертывании данные не покидают ваши серверы. Советы для пользователей собраны в нашем руководстве по безопасности и приватности в ИИ.

Сравнение с аналогами

По данным Meta, Llama Guard 4 работает на уровне или лучше предыдущих текстовых и графических версий Llama Guard 3, объединяя их функции в единой модели. В отличие от генеративных моделей вроде Llama 4 Scout, она намного компактнее и занимается только классификацией, не создавая ответов. Если вы создаете сервис на открытых моделях, подобный классификатор служит надежным уровнем защиты в связке с правилами сервиса, лимитами запросов и ручной модерацией.

Частые вопросы

Можно ли пообщаться с Llama Guard 4 на Llama.Online?

Нет, Llama Guard 4 нет в нашем чате. Это инструмент модерации для разработчиков, а не модель для диалогов.

Что выдает Llama Guard 4?

Короткий текстовый ответ: «safe» или «unsafe» с кодами категорий угроз (например, S9 для оружия неизбирательного действия).

Работает ли она с изображениями?

Да. Модель умеет оценивать промпты, сочетающие текст с одним или несколькими изображениями.

Llama Guard 4 бесплатна?

Веса модели можно скачать бесплатно по лицензии Llama 4 Community License. При вызове через сторонние облачные API оплата берется за количество токенов.