Llama API: как подключить Llama к вашему коду

Краткий ответ

В 2026 году у вас есть два практических способа использовать Llama в коде: обращаться через облачного провайдера, предоставляющего эти модели, или запустить модель самостоятельно на локальном сервере. Сама Meta больше не предлагает облачный API для Llama. В этом руководстве мы расскажем о произошедших изменениях и покажем рабочие примеры с сервисом OpenRouter, предоставляющим единый API для множества моделей, включая Llama 4 Maverick и Scout.

Что стало с официальным Llama API от Meta

После выхода Llama 4 компания Meta предоставила разработчикам ранний доступ к облачному Llama API. Этот предварительный доступ закрылся 6 июля 2026 года. Новый сервис для разработчиков, Meta Model API, обслуживает модели линейки Muse (например, Muse Wonder), но не Llama. На официальной странице справки Meta прямо указано: «Модели Llama не запускаются через Model API». Другими словами, Llama теперь можно либо скачать и запустить самостоятельно, либо использовать через сторонних провайдеров. Подробнее читайте в разъяснении Meta о Llama и Model API.

Модели Muse недоступны в нашем чате, а их тарифы выходят за рамки этой статьи. Все дальнейшие примеры посвящены исключительно Llama.

Краткий обзор вариантов

• Маршрутизаторы моделей (например, OpenRouter). Один ключ API, одна точка входа в формате OpenAI и множество моделей. Отличный вариант, чтобы протестировать разные версии Llama и переключаться между ними.
• Облачные провайдеры с прямым доступом к Llama. Многие специализированные сервисы инференса и крупные облачные платформы поддерживают эти модели. Перед выбором сравните цены, лимиты запросов и политики работы с данными.
• Собственный сервер или компьютер. Запустите Llama через LM Studio, Ollama или llama.cpp и делайте запросы через локальный интерфейс, совместимый с API от OpenAI. Платить за токены не нужно, а данные полностью под вашим контролем. Подробнее читайте в статье как запустить Llama локально.

Вызов Llama через OpenRouter

API сервиса OpenRouter полностью повторяет формат OpenAI Chat Completions, поэтому существующий код и библиотеки работают без изменений — достаточно лишь указать другой базовый адрес и имя модели. Создайте учетную запись на OpenRouter, получите ключ API и сохраните его в переменной окружения OPENROUTER_API_KEY. Никогда не указывайте этот ключ в коде на стороне клиента. Подробный порядок действий описан в кратком руководстве OpenRouter.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Напиши хокку о моделях с открытыми весами."}
    ]
  }'

Python (библиотека OpenAI)

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Кратко перескажи суть лицензии Llama в трех пунктах."}],
)
print(response.choices[0].message.content)

JavaScript (с помощью fetch)

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Придумай три названия для булочной." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Такой JavaScript-код следует выполнять на сервере, а не в браузере, чтобы сохранить ключ в тайне. Если вам нужно выводить ответ пользователю по словам по мере генерации, сервис также поддерживает потоковый режим (streaming).

Передача изображений в Llama 4

Llama 4 Maverick и Scout умеют обрабатывать изображения. В формате запроса, привычном для OpenAI, содержимое сообщения передается в виде списка, где есть текстовая часть и ссылка на изображение:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Что изображено на этой фотографии?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B и Llama 3.1 8B работают только с текстом, поэтому для распознавания картинок используйте модели линейки Llama 4.

Имена моделей Llama и цены

Ниже перечислены доступные на OpenRouter модели Llama, их системные имена для запросов, размер контекста и расценки за миллион токенов. Все тарифы взяты из прайс-листа OpenRouter за октябрь 2026 года и со временем могут измениться, поэтому сверяйтесь с официальными данными при планировании расходов.

Обратите внимание: приведенный здесь размер контекста задан провайдерами OpenRouter и может быть меньше предельных значений из документации Meta. В спецификациях Meta указано 10 миллионов токенов для Scout и 1 миллион для Maverick.

Локальная Llama как сервер API

Если вы запускаете Llama у себя, тот же самый программный код можно перенаправить на ваш компьютер. Встроенный сервер LM Studio доступен по базовому адресу http://localhost:1234/v1, а команда llama serve в проекте llama.cpp также запускает сервер, совместимый со стандартами OpenAI (подробнее см. документацию LM Studio и руководство llama.cpp). У сервиса Ollama есть собственный программный интерфейс по адресу http://localhost:11434/api/chat. При отправке запроса замените имя из каталога OpenRouter на имя модели, указанное в вашей локальной программе.

Полезные советы по работе с Llama

• Для общих задач и картинок выбирайте Maverick или Scout, а если важнее всего скорость ответа и минимальная стоимость, попробуйте Llama 3.1 8B.
• Задавайте системные инструкции (system prompt), прямо описывая требуемую роль, тон и структуру ответа.
• Настройте проверку безопасности для публичных сервисов. Модель Llama Guard 4 умеет проверять входящие запросы и готовые ответы на нежелательный контент.
• Соблюдайте условия лицензии. В продуктах на базе Llama необходимо указывать авторство «Built with Llama» и следовать правилам допустимого использования Meta. Ознакомьтесь с нашим руководством по лицензированию.
• Помните об ограничениях по дате знаний. Llama 4 владеет информацией по август 2024 года. Если задаче требуются актуальные сведения, передавайте их прямо в тексте запроса.

Частые неполадки

• Ошибки авторизации чаще всего означают, что ключ не указан, введен с опечаткой или не передан в окружение программы.
• Сообщение «Model not found» говорит об ошибке в имени модели. Скопируйте точное название из таблицы выше, обязательно включая префикс meta-llama/.
• Изображение не распознается или отклоняется, если файл отправлен в текстовую модель. Переключитесь на Maverick или Scout.
• Ответ внезапно обрывается, когда текст упирается в ограничение длины вывода. Попросите нейросеть писать лаконичнее или увеличьте лимит токенов в настройках запроса.

Частые вопросы

Предоставляет ли Meta официальный API для Llama?

Нет. Предварительный доступ к официальному Llama API закрылся 6 июля 2026 года. Сервис Meta Model API работает только с моделями линейки Muse.

Существует ли бесплатный API для Llama?

При локальном запуске Llama вы вообще не платите за токены. Облачные же провайдеры берут плату за объем токенов, хотя небольшие модели уровня Llama 3.1 8B обходятся крайне дешево.

Есть ли API у сервиса Llama.Online?

Нет. Llama.Online работает исключительно как чат в браузере. Для программного доступа используйте облачных провайдеров или локальный сервер.

Можно ли работать с Llama через библиотеку OpenAI SDK?

Да. Просто укажите адрес совместимого сервиса (например, OpenRouter или запущенный сервер LM Studio) в качестве базового адреса и передайте нужное имя модели Llama.