Llama Guard 4

Llama Guard 4とは・開発元

Llama Guard 4はMetaが開発したセーフティモデルです。対話型のチャットボットではなく、開発者がチャットモデルの前後に配置して、入出力内容を検証するために使用します。ユーザーのプロンプトやモデルの回答を受け取ると、Llama Guard 4は「safe（安全）」、または「unsafe（危険）」と検出された危険カテゴリを短い判定結果として出力します。テキストだけでなく画像にも対応しており、1つのプロンプト内に複数の画像が含まれていても処理できます。

Metaのモデルカードによると、Llama Guard 4は120億（12B）パラメータを持つ高密度（dense）アーキテクチャを採用しています。事前学習済みのLlama 4 Scoutチェックポイントからルーティングされる専門家（routed experts）を除去して共有専門家（shared expert）のみを残し、セーフティ分類用にファインチューニングして構築されました。トークナイザーとビジョンエンコーダーはLlama 4 ScoutおよびMaverickと共通で、単一のGPUで動作可能です。Llama 4の発表から数週間後の2025年4月30日にOpenRouterに掲載され、Llama 4 Community Licenseのもとで提供されています。

Llama Guardファミリー

MetaはLlamaのリリースに合わせて、複数のLlama Guardバージョンを公開してきました。Llama Guard 4では、テキスト用（Llama Guard 3 8B）と画像用（Llama Guard 3 11B Vision）という以前の2つの個別モデルが、1つの分類モデルに統合されました。Metaはこれを他のオープンなセーフティツールと組み合わせており、モデルカードではジェイルブレイクなどのプロンプト攻撃を検知するLlama Prompt Guard 2などが紹介されています。

検知対象：危険カテゴリ

Llama Guard 4は、MLCommonsのハザード分類体系にツール利用に関する追加カテゴリを1つ加えたデータで学習されています。危険と判定した場合、該当するカテゴリコードを出力します：

「専門的なアドバイス」には、金融、医療、法律に関する専門的なアドバイスを提供する回答や、危険な活動や物体を安全であると誤認させる回答が含まれます。

Llama Guard 4の強み

• 入力フィルタリング：メインモデルが処理する前にユーザーのプロンプトを検証し、明らかに有害なリクエストを事前に遮断します。
• 出力フィルタリング：メインモデルの回答を表示する前に検証します。モデルが安全に応答する機会を与えつつ、危険な回答のみをブロックできます。
• 画像対応：テキストと1枚以上の画像が混在するプロンプトを分類できます。従来のテキスト専用ガードモデルにはできなかった機能です。
• 多言語対応：英語に加え、Llama Guard 3が対応していた言語（フランス語、ドイツ語、ヒンディー語、イタリア語、ポルトガル語、スペイン語、タイ語）をサポートしています。

Metaによると、入力と出力の両方でフィルタリングを行うことで安全性が高まり、社内テストでは入力フィルタリングの方が出力フィルタリングよりも拒否率が高くなる傾向が確認されています。

把握しておくべき制限事項

• ルールブックではなくモデルである点：有害なコンテンツを見逃したり、無害なコンテンツを誤検知したりする可能性があります。Metaのモデルカードでは、一般的な常識や特定の言語を要する領域において、学習データによる精度の限界が生じ得ると記載されています。
• 事実確認は不可：名誉毀損、知的財産、選挙などのカテゴリは、最新の事実関係を把握して判断する必要があることが多く、Metaはこうした機密性の高い用途にはより高度なシステムの併用を推奨しています。
• プロンプト攻撃：言語モデルである以上、敵対的攻撃やプロンプトインジェクション攻撃によって回避されるリスクがあります。
• 大量の画像：主に数枚程度の画像を含むプロンプトでテストされているため、より多くの画像を入力した場合は挙動が異なる可能性があります。

Llama Guard 4の公式な入手方法

モデルの重みはHugging Face上で「meta-llama/Llama-Guard-4-12B」として公開されており、MetaのモデルカードにはTransformersライブラリ用のサンプルコードも含まれています。ファイルを利用するには、モデルページでライセンスに同意する必要があります。OpenRouterでは163,840トークンのコンテキストウィンドウに対応し、入力100万トークンあたり$0.18、出力100万トークンあたり$0.18で提供されています（2026年10月時点のOpenRouter定価）。

Llama 4モデルであるため、本モデルにはLlama 4 Community Licenseおよび利用許諾ポリシーが適用されます。これには、本モデルを利用する製品における「Built with Llama」の表記や、EUにおけるマルチモーダルモデル向けの個別規定が含まれます。分かりやすい概要についてはライセンスページを、コードからLlamaモデルを呼び出す方法についてはAPIガイドをご確認ください。

プライバシーに関する注意事項

セーフティ分類モデルは検証対象となるすべてのメッセージを読み取ります。AIパイプラインの他の構成要素と同様に扱いましょう。クラウドプロバイダー経由で呼び出す場合はそのプロバイダーのプライバシー規約が適用され、自社サーバーでホストする場合はデータは社内にとどまります。ユーザー向けのベストプラクティスについては、AIのプライバシーと安全性ガイドをご覧ください。

Llama Guard 4の比較と位置づけ

Llama Guard 3と比較すると、バージョン4はモデルを1つに統合しながら、従来のテキストガードおよびビジョンガードと同等以上の性能を達成しているとMetaは報告しています。Llama 4 Scoutなどのチャットモデルと比較すると、はるかに軽量で分類のみに特化しており、回答の生成は行いません。オープンモデルを使ってアプリを構築する場合、こうしたガードモデルは、明確な利用規約、レート制限、人間の目による審査と並ぶ安全対策の1つの層となります。

よくある質問

Llama.OnlineのチャットでLlama Guard 4と会話できますか？

いいえ、Llama Guard 4はチャットではご利用いただけません。対話用モデルではなく、開発者向けの分類モデルです。

Llama Guard 4はどのような出力を返しますか？

「safe」、または「unsafe」と無差別兵器を示すS9などのカテゴリコードを含む、短いテキストの判定結果を出力します。

画像にも対応していますか？

はい。テキストと1枚以上の画像が組み合わされたプロンプトを分類できます。

Llama Guard 4は無料で使えますか？

Llama 4 Community Licenseのもと、モデルの重みは無料でダウンロードできます。ホスティングされたAPIを利用する場合は、トークンごとの従量課金が発生します。