Llama API: 코드로 Llama 연동하기

핵심 요약

2026년에 코드에서 Llama를 활용하는 실질적인 방법은 두 가지예요. Llama 모델을 호스팅하는 클라우드 서비스를 호출하거나, 모델을 직접 구동해 로컬 서버를 사용하는 것이죠. Meta는 더 이상 Llama 호스팅 API를 제공하지 않아요. 이 가이드에서는 어떤 점이 달라졌는지 설명하고, Llama 4 Maverick 및 Scout을 포함한 다양한 모델을 단일 API로 쓸 수 있는 OpenRouter 기반의 실제 작동 예제를 보여드릴게요.

Meta의 Llama API에 일어난 변화

Meta는 Llama 4 출시 후 개발자를 위한 퍼블릭 프리뷰 형태로 Llama API를 직접 호스팅해 운영했어요. 하지만 2026년 7월 6일에 해당 프리뷰 서비스를 종료했죠. Meta의 새로운 개발자 플랫폼인 Meta Model API는 Llama가 아닌 Muse Wonder 같은 Muse 모델들을 지원해요. Meta의 자체 도움말 페이지에도 명확히 명시되어 있어요. "Model API를 통해서는 Llama 모델을 호스팅 방식으로 실행해 드리지 않습니다." 즉, 이제 Llama는 직접 다운로드해 실행하거나 다른 제공업체를 통해 이용해야 해요. 자세한 내용은 Llama 및 Model API 관련 Meta 안내를 확인해 보세요.

Muse 모델은 저희 채팅에서 지원되지 않으며, 해당 요금 체계는 이 페이지에서 다루지 않아요. 본 가이드의 나머지 내용은 모두 Llama를 중심으로 다뤄요.

선택할 수 있는 옵션 한눈에 보기

• OpenRouter 같은 모델 라우터: API 키 하나와 OpenAI 스타일 엔드포인트 하나로 수많은 모델을 사용할 수 있어요. 여러 Llama 버전을 테스트하고 모델을 쉽게 전환하기에 적합해요.
• Llama를 직접 호스팅하는 클라우드 제공업체: 수많은 추론 인프라 기업과 대형 클라우드 플랫폼에서 Llama 모델을 제공하고 있어요. 도입 전에 가격, 속도 제한(Rate limits), 데이터 정책을 꼼꼼히 비교해 보세요.
• 자체 서버 또는 개인 컴퓨터: LM Studio, Ollama, llama.cpp 등을 사용해 Llama를 직접 구동하고 로컬의 OpenAI 호환 API로 호출할 수 있어요. 토큰당 비용이 전혀 들지 않고 데이터를 완벽히 통제할 수 있죠. 자세한 내용은 Llama 로컬 실행 가이드를 참고하세요.

OpenRouter로 Llama 호출하기

OpenRouter의 API는 OpenAI의 Chat Completions API와 동일한 규격을 따르기 때문에, 기본 URL과 모델 이름만 바꾸면 기존 코드와 라이브러리를 그대로 쓸 수 있어요. OpenRouter에서 계정을 생성하고 API 키를 발급받은 뒤, OPENROUTER_API_KEY 환경 변수에 저장해 두세요. 클라이언트 측 코드에는 절대 노출하지 마시고요. 자세한 단계는 OpenRouter 빠른 시작 가이드에서 확인하실 수 있어요.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "오픈 가중치 모델에 대한 하이쿠를 지어줘."}
    ]
  }'

Python (OpenAI SDK 활용)

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Llama 라이선스의 핵심을 세 가지 항목으로 요약해 줘."}],
)
print(response.choices[0].message.content)

JavaScript (fetch 활용)

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "베이커리 이름 세 가지만 추천해 줘." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

API 키 보안을 위해 이런 JavaScript 코드는 웹 브라우저가 아닌 서버 환경에서 실행해 주세요. 답변이 한 글자씩 실시간으로 표시되도록 스트리밍 방식도 지원돼요.

Llama 4로 이미지 전송하기

Llama 4 Maverick과 Scout은 이미지 입력을 지원해요. OpenAI 호환 규격에 맞춰 메시지 content를 텍스트 부분과 이미지 부분이 포함된 배열 형태로 구성하면 돼요:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "이 사진에 무엇이 있나요?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B와 Llama 3.1 8B는 텍스트 전용 모델이므로 이미지를 처리할 때는 Llama 4 모델을 이용해 주세요.

Llama 모델명 및 가격

OpenRouter에 등록된 Llama 모델 목록과 API 모델명, 컨텍스트 윈도우, 100만 토큰당 가격이에요. 모든 요금은 2026년 10월 기준 OpenRouter 정가이며 변동될 수 있으니 개발 전 다시 확인해 보세요.

참고로 여기에 표시된 컨텍스트 윈도우는 OpenRouter 제공업체 기준이며, Meta 모델 카드에 명시된 원래 스펙보다 작을 수 있어요. Meta 공식 기준으로는 Scout이 1,000만 토큰, Maverick이 100만 토큰이에요.

로컬 Llama를 API로 활용하기

Llama를 직접 실행하면 기존 코드의 엔드포인트를 내 로컬 머신으로 지정할 수 있어요. LM Studio 서버는 기본 주소로 http://localhost:1234/v1을 사용하며, llama.cpp의 llama serve 명령어도 OpenAI 호환 서버를 구동해 줘요. 자세한 정보는 LM Studio 서버 문서와 llama.cpp README를 확인하세요. Ollama는 http://localhost:11434/api/chat에서 자체 API를 제공해요. 이때 모델명은 OpenRouter 이름 대신 로컬 툴에 표시된 이름을 사용하면 돼요.

Llama 개발 실전 팁

• 범용 작업과 이미지 처리에는 Maverick이나 Scout으로 시작하시고, 정밀함보다 처리 속도와 비용 절감이 중요한 작업에는 Llama 3.1 8B를 활용해 보세요.
• 시스템 프롬프트(System prompt)를 지정해 원하는 역할, 어조, 출력 형식을 정의해 두세요.
• 공개 서비스에는 안전 레이어를 추가하세요. Llama Guard 4로 프롬프트와 생성 답변의 안전성을 검증할 수 있어요.
• 라이선스를 준수하세요. Llama 기반 제품은 "Built with Llama" 문구를 표시해야 하며 Meta의 이용 정책을 따라야 해요. 라이선스 가이드에서 확인해 보세요.
• 지식 컷오프 시점을 염두에 두세요. Llama 4는 2024년 8월까지의 정보만 알고 있으므로, 최신 정보가 필요하다면 프롬프트에 직접 최신 데이터를 넣어주세요.

자주 발생하는 문제

• 인증 오류 (Authorization errors): 대개 API 키가 누락되었거나 오타가 났거나, 코드가 실행되는 환경에 환경 변수가 제대로 불러와지지 않은 경우예요.
• "Model not found" 오류: 모델 이름에 오타가 있는 경우가 대부분이에요. meta-llama/ 접두사를 포함해 위 표에 적힌 이름을 그대로 복사해 사용하세요.
• 이미지가 무시되거나 오류 발생: 텍스트 전용 모델에 이미지를 전송했을 때 발생해요. Maverick이나 Scout 모델로 변경해 보세요.
• 답변이 중간에 끊김: 출력 토큰 한도에 도달했음을 의미해요. 더 짧은 답변을 요구하거나 최대 토큰(max tokens) 설정을 늘려주세요.

자주 묻는 질문 (FAQ)

Meta에서 아직 Llama API를 제공하나요?

아니요. Meta는 2026년 7월 6일에 호스팅 Llama API 프리뷰를 종료했어요. 현재의 Meta Model API는 Llama가 아닌 Muse 모델만 지원해요.

무료 Llama API가 있나요?

Llama를 로컬에서 직접 구동하면 토큰 비용이 들지 않아요. 호스팅 API 서비스들은 토큰당 비용을 청구하지만, Llama 3.1 8B 같은 소형 모델은 매우 저렴해요.

Llama.Online에 API가 있나요?

아니요. Llama.Online은 브라우저 전용 채팅 서비스예요. 코드에서 사용하시려면 클라우드 API 제공업체나 로컬 서버를 이용해 주세요.

Llama에 OpenAI SDK를 사용할 수 있나요?

네, 가능해요. OpenRouter나 로컬 LM Studio 서버처럼 OpenAI 호환 엔드포인트를 SDK 주소로 지정하고 Llama 모델명을 입력하면 바로 사용할 수 있어요.