Llama Guard 4
Llama Guard 4는 챗봇이 아니에요. 프롬프트와 답변(이미지 포함)을 검사해 카테고리별로 안전 여부를 판별해 주는 안전 분류 모델이에요.
Llama Guard 4 소개 및 개발사
Llama Guard 4는 Meta가 개발한 안전성 모델이에요. 사용자가 직접 대화하는 챗봇이 아니라, 개발자가 챗봇 모델의 앞뒤에 배치해 입력과 출력 내용을 검사하는 용도로 쓰여요. 사용자 프롬프트나 모델의 답변을 분석한 뒤 "safe(안전)" 또는 "unsafe(위험)" 판정과 함께 감지된 위험 카테고리를 짧게 출력하죠. 텍스트뿐만 아니라 하나의 프롬프트에 포함된 여러 장의 이미지를 처리하는 멀티모달도 지원해요.
Meta의 모델 카드에 따르면 Llama Guard 4는 120억 개(12B)의 파라미터를 가진 Dense 아키텍처 모델이에요. 사전 훈련된 Llama 4 Scout 체크포인트에서 라우팅된 전문가(routed experts)를 제거하고 공유 전문가(shared expert)만 남긴 뒤, 안전성 분류 작업에 맞게 미세 조정한 방식으로 제작되었어요. 토크나이저와 비전 인코더는 Llama 4 Scout 및 Maverick과 공유하며, 단일 GPU에서도 구동할 수 있어요. Llama 4 출시 몇 주 뒤인 2025년 4월 30일 OpenRouter에 등록되었으며, Llama 4 Community License로 배포되고 있어요.
Llama Guard 패밀리
Meta는 Llama 버전을 선보일 때마다 여러 Llama Guard 모델을 함께 공개해 왔어요. Llama Guard 4는 이전까지 나뉘어 있던 텍스트용 Llama Guard 3 8B와 이미지용 Llama Guard 3 11B Vision을 하나의 분류 모델로 통합했어요. 또한 탈옥(jailbreak) 시도 같은 프롬프트 공격을 감지하는 Llama Prompt Guard 2 등 다른 오픈소스 안전 도구와 함께 활용할 수 있도록 설계되었어요.
검사 대상: 위험 카테고리
Llama Guard 4는 MLCommons 위험 분류 체계에 도구 사용 관련 카테고리 하나를 더해 학습되었어요. 안전하지 않다고 판단되면 다음과 같은 카테고리 코드를 출력해요.
| 코드 | 카테고리 | 코드 | 카테고리 |
|---|---|---|---|
| S1 | 폭력 범죄 | S8 | 지식재산권 침해 |
| S2 | 비폭력 범죄 | S9 | 무차별 살상 무기 |
| S3 | 성범죄 | S10 | 혐오 발언 |
| S4 | 아동 성착취 | S11 | 자살 및 자해 |
| S5 | 명예훼손 | S12 | 성적 콘텐츠 |
| S6 | 전문적인 조언 | S13 | 선거 관련 |
| S7 | 개인정보 침해 | S14 | 코드 인터프리터 악용 (텍스트 전용) |
"전문적인 조언"에는 전문적인 금융, 의료, 법률 상담을 제공하거나 위험한 활동 및 물건을 안전하다고 안내하는 답변이 포함돼요.
Llama Guard 4의 주요 강점
- 입력 필터링: 메인 모델이 입력을 처리하기 전에 사용자 프롬프트를 미리 검사해 유해한 요청을 사전에 차단해요.
- 출력 필터링: 메인 모델의 답변을 화면에 보여주기 전에 검사해요. 모델이 안전하게 답할 기회를 먼저 주고, 생성된 답변이 실제로 위험할 때만 차단할 수 있죠.
- 이미지 처리: 기존의 텍스트 전용 가드 모델과 달리 텍스트와 하나 이상의 이미지가 섞인 멀티모달 프롬프트도 분류할 수 있어요.
- 다국어 지원: 영어 외에도 Meta가 명시한 Llama Guard 3의 지원 언어인 프랑스어, 독일어, 힌디어, 이탈리아어, 포르투갈어, 스페인어, 태국어를 지원해요.
Meta에 따르면 입력과 출력 필터링을 모두 적용할 때 보안성이 가장 높으며, 사내 테스트 결과 입력 필터링이 출력 필터링보다 거부율을 더 크게 높였다고 해요.
주의해야 할 한계점
- 규칙집이 아닌 AI 모델: 유해한 콘텐츠를 놓치거나 무해한 콘텐츠를 잘못 차단할 수 있어요. 상식이나 특정 언어 처리가 필요한 영역에서는 학습 데이터 한계로 성능이 제한될 수 있다고 Meta는 밝히고 있어요.
- 자체적인 사실 확인 불가: 명예훼손, 지식재산권, 선거 같은 카테고리는 최신 사실 확인이 필수적이므로, 민감한 용도로 쓸 때는 더 정교한 시스템과 병행하는 것이 좋아요.
- 프롬프트 공격 취약성: 언어 모델인 만큼 적대적 프롬프트 공격이나 프롬프트 인젝션에 속을 가능성이 있어요.
- 다수의 이미지 처리: 적은 수의 이미지를 포함한 프롬프트 위주로 테스트되었기 때문에, 이미지가 매우 많으면 판정 결과가 달라질 수 있어요.
Llama Guard 4 공식 이용 방법
모델 가중치는 Hugging Face의 meta-llama/Llama-Guard-4-12B에 공개되어 있으며, 모델 카드에서 Transformers 라이브러리용 예제 코드도 확인할 수 있어요. 해당 페이지에서 라이선스에 동의하면 파일을 다운로드할 수 있죠. OpenRouter에서는 163,840 토큰의 컨텍스트 윈도우를 지원하며, 입력 100만 토큰당 $0.18, 출력 100만 토큰당 $0.18의 요금으로 이용할 수 있어요 (2026년 10월 OpenRouter 기준 가격).
Llama 4 제품군이므로 "Built with Llama" 표기 의무 및 EU 내 멀티모달 모델 관련 규정을 포함한 Llama 4 Community License와 이용 정책이 적용돼요. 쉬운 라이선스 요약은 라이선스 안내 페이지에서, 코드로 Llama 모델을 호출하는 방법은 API 가이드에서 확인해 보세요.
개인정보 보호 유의사항
안전성 분류 모델은 검사하는 모든 메시지를 직접 읽으므로 일반적인 AI 파이프라인과 똑같이 취급해야 해요. 클라우드 API를 이용한다면 해당 제공업체의 개인정보 처리방침이 적용되고, 자체 호스팅을 한다면 데이터가 사내 서버에만 머물게 돼요. 사용자 입장에서의 올바른 보안 수칙은 AI 개인정보 보호 및 안전 가이드를 참고해 보세요.
다른 모델과의 비교
Meta 발표에 따르면 Llama Guard 4는 기존의 텍스트 및 비전 전용 모델을 하나로 합쳤으면서도, Llama Guard 3와 비슷하거나 더 뛰어난 성능을 보여줘요. Llama 4 Scout 같은 대화형 모델과 비교하면 크기가 훨씬 작고 답변 생성이 아닌 분류만 전문으로 하죠. 오픈소스를 기반으로 서비스를 개발하고 있다면, 이러한 가드 모델을 명확한 이용 규칙, 사용량 제한, 사람의 검토와 함께 다층 보안 체계의 하나로 활용하는 것이 안전해요.
자주 묻는 질문 (FAQ)
Llama.Online에서 Llama Guard 4와 대화해 볼 수 있나요?
아니요, Llama Guard 4는 채팅 기능으로 제공되지 않아요. 대화형 모델이 아닌 개발자용 안전 분류 모델이기 때문이에요.
Llama Guard 4는 어떤 값을 출력하나요?
"safe" 또는 "unsafe"라는 짧은 텍스트와 함께 무차별 살상 무기를 뜻하는 S9처럼 감지된 위험 카테고리 코드를 출력해요.
이미지도 검사할 수 있나요?
네, 텍스트와 한 장 이상의 이미지가 함께 포함된 프롬프트도 문제없이 분류할 수 있어요.
Llama Guard 4는 무료로 쓸 수 있나요?
Llama 4 Community License에 따라 모델 가중치는 무료로 내려받을 수 있어요. 단, 호스팅 API 서비스를 이용할 때는 토큰 단위로 비용이 발생해요.