Llama 3.2
Llama 3.2는 모바일과 노트북을 위한 초소형 텍스트 모델과 Meta 최초의 Llama 비전 모델을 선보였어요. 현재 채팅에는 없지만 어떤 특징이 있는지 알려드려요.
Llama 3.2 소개 및 개발사
Llama 3.2는 Meta가 2024년 9월 25일에 출시한 모델 시리즈예요. 두 가지 방향성을 동시에 담았는데요. 한쪽에는 스마트폰, 노트북 등 연산 성능이 제한된 기기에서 실행되도록 설계된 초소형 텍스트 모델 Llama 3.2 1B 및 3B가 있어요. 다른 한쪽에는 텍스트와 함께 이미지를 입력받아 텍스트로 답하는 Meta 최초의 Llama 비전 모델인 Llama 3.2 11B Vision과 90B Vision이 자리 잡고 있죠. 모든 모델은 Llama 3.2 Community License에 따라 다운로드할 수 있어요.
Llama 3.2 라인업
Llama 3.2 1B 및 3B (텍스트)
Meta의 모델 카드에 따르면 1B 모델의 매개변수는 약 12억 3천만 개예요. 두 소형 모델 모두 128K 컨텍스트 윈도우를 지원하며, 2023년 12월까지의 데이터를 바탕으로 최대 9조 개의 토큰을 학습했어요. Meta는 더 큰 Llama 3.1 8B와 70B 모델의 출력값에서 학습하는 지식 증류(knowledge distillation) 기법을 일부 활용해 이들을 개발했어요. Meta가 제시한 주요 용도는 어시스턴트형 채팅, 지식 검색, 요약, 모바일 기기에서의 글쓰기 보조, 검색어 및 프롬프트 재작성 등이에요.
Meta는 메모리가 적은 모바일 프로세서에서 구동할 수 있도록 압축된 1B와 3B 양자화 버전도 공개했어요. 이 양자화 버전들은 8K 토큰의 더 짧은 컨텍스트 윈도우를 가집니다.
Llama 3.2 11B 및 90B Vision
비전 모델은 Llama 3.1 텍스트 모델을 기반으로 별도 학습된 비전 어댑터를 결합해 만들었어요. 이미지 인코더가 인식한 정보를 언어 모델에 전달하는 방식이죠. Meta는 시각적 인식, 이미지 추론, 캡션 생성, 이미지 관련 일반 질문 답변을 주요 용도로 제시하며, 128K 컨텍스트 윈도우를 지원해요. 한 가지 중요한 점은 이미지와 텍스트를 함께 처리하는 작업의 경우 영어만 공식 지원된다는 사실이에요.
Llama 3.2의 장점
- 온디바이스 AI. 1B와 3B 모델은 스마트폰이나 가벼운 노트북에 들어갈 만큼 가벼워서, 앱이 오프라인으로 작동하고 데이터를 기기 내에 안전하게 보관할 수 있어요.
- 빠르고 경제적인 텍스트 처리. 대형 모델을 쓰기엔 부담스러운 요약, 문장 다듬기, 분류, 간단한 답변 작업에 적합해요.
- 영어 이미지 이해. 비전 모델은 사진을 묘사하고 차트와 문서를 읽으며, 그림에 관한 질문에 답변할 수 있어요.
- 실험 및 학습용. 소형 모델은 로컬 AI 구동이나 파인튜닝을 처음 시작하는 분들에게 인기 있는 출발점이에요.
텍스트 작업에서는 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어가 공식 지원돼요.
알아두어야 할 한계
- 소형 모델의 성능 한계. 1B와 3B 모델은 대형 모델에 비해 아는 정보가 훨씬 적고, 사실관계나 추론에서 오류를 낼 확률이 높아요. Meta 스스로도 모바일 기기처럼 리소스가 매우 제한된 환경을 위한 모델이라고 설명하고 있어요.
- 과거 정보 기준. 학습 데이터가 2023년 12월에 끝납니다.
- 비전 기능의 영어 한정. 이미지 결합 작업은 영어만 지원되며, 비전 모델이 직접 이미지를 생성하지는 못해요.
- 비전 모델의 EU 지역 제한. Llama 3.2 이용 정책에 따르면, 멀티모달 모델의 라이선스 권리는 유럽연합(EU)에 거주하는 개인이나 본사를 둔 기업에는 부여되지 않아요. 단, 이 모델을 이미 내장한 제품의 최종 사용자는 영향을 받지 않아요. 1B와 3B 텍스트 모델은 멀티모달이 아닙니다.
- 더 강력한 대체재 존재. Llama 4 Scout와 Maverick은 이미지를 기본으로 읽을 수 있고 더 많은 언어를 지원해요.
Llama 3.2 공식 다운로드 방법
Meta는 모든 Llama 3.2 모델을 Hugging Face의 meta-llama 조직 아래 공개하고 있어요. 예를 들면 meta-llama/Llama-3.2-3B-Instruct, meta-llama/Llama-3.2-11B-Vision-Instruct 등이 있죠. 모델 페이지에서 라이선스에 동의하면 파일을 다운로드할 수 있어요. 비전 모델 카드는 여기에서 확인하실 수 있습니다.
로컬에서 쓰려면 Ollama를 통해 소형 모델을 실행할 수 있어요. ollama run llama3.2 명령어로 3B 버전(약 2.0GB)을, ollama run llama3.2:1b 명령어로 1B 버전(약 1.3GB)을 다운로드할 수 있죠. LM Studio와 llama.cpp에서도 구동 가능해요. 자세한 내용은 Llama 로컬 실행 가이드를 참고해 보세요.
클라우드 API의 경우 OpenRouter 기준 Llama 3.2 1B는 100만 토큰당 입력 $0.027, 출력 $0.201이며, Llama 3.2 3B는 입력 $0.0509, 출력 $0.335예요(2026년 10월 OpenRouter 정가 기준). 모델 호출 방법은 저희 API 가이드에서 확인하실 수 있어요.
라이선스 약관은 다른 Llama 버전들과 기본 취지가 같아요. "Built with Llama" 표기 의무, 이용 정책 준수, 월간 활성 사용자 7억 명 규칙 등이 적용됩니다. 자세한 내용은 라이선스 안내 페이지에 정리되어 있어요.
개인정보 보호 참고사항
Llama 3.2의 가장 큰 개인정보 보호 강점은 소형 모델을 사용자 기기에서 직접 구동할 수 있어 어떤 데이터도 스마트폰이나 PC 외부로 전송되지 않는다는 점이에요. 만약 클라우드 제공업체를 통해 이용하신다면 해당 업체의 개인정보 처리방침이 적용됩니다.
다른 모델과의 비교
Llama 3.1 8B와 비교하면 3B 모델은 훨씬 가볍지만 성능 면에서는 한계가 있어요. Llama 4와 비교했을 때 3.2 비전 모델은 이전 세대 모델이라 이미지 처리 시 지원 언어가 적고 동일한 EU 제한 조항이 적용되는 반면, Llama 4는 기본 모델에서 직접 이미지를 다뤄요. 사진에 관해 질문하고 싶다면 Llama.Online 채팅에서 Llama 4를 이용하시는 것이 가장 간편해요. 전체 출시 역사는 Llama 히스토리에서 확인하실 수 있습니다.
자주 묻는 질문 (FAQ)
Llama.Online 채팅에서 Llama 3.2를 사용할 수 있나요?
아니요, Llama 3.2는 저희 채팅에서 지원되지 않아요. 이미지 질문은 Llama 4 Maverick이나 Scout를, 빠른 텍스트 답변은 Llama 3.1 8B를 이용해 주세요.
Llama 3.2를 스마트폰에서 실행할 수 있나요?
네, 1B와 3B 모델은 모바일 환경을 염두에 두고 설계되었으며, Meta가 모바일 프로세서용으로 출시한 양자화 버전을 활용하면 더욱 원활해요. 단, 로컬 모델 구동을 지원하는 앱이 필요합니다.
어떤 Llama 3.2 모델이 이미지를 볼 수 있나요?
11B Vision과 90B Vision 모델만 가능해요. 1B와 3B 모델은 텍스트 전용입니다.
EU 거주자도 Llama 3.2를 사용할 수 있나요?
텍스트 모델은 라이선스 조건 하에 사용 가능해요. 비전 모델의 경우 Meta 정책에 따라 EU 거주자나 기반 기업에 라이선스 권리가 부여되지 않지만, 해당 모델을 활용해 개발된 제품의 최종 사용자는 영향을 받지 않아요. 이는 일반적인 정보 안내이며 법적 자문이 아닙니다.