Llama API: як використовувати Llama у власному коді

Коротка відповідь

Щоб використовувати Llama у власному коді у 2026 році, є два практичні шляхи: робити запити через хмарного провайдера, який хостить моделі Llama, або запустити модель власноруч на локальному сервері. Сама Meta більше не надає хостинг API для Llama. У цьому посібнику пояснюється, що змінилося, а також наведено робочі приклади з використанням OpenRouter — сервісу, що надає єдиний API для багатьох моделей, включно з Llama 4 Maverick та Scout.

Що сталося з Llama API від Meta

Після релізу Llama 4 компанія Meta запустила розміщений API для Llama у форматі публічного превʼю для розробників. Meta закрила це превʼю 6 липня 2026 року. Новіша пропозиція Meta для розробників — Meta Model API — обслуговує моделі лінійки Muse, як-от Muse Wonder, але не Llama. На сторінці довідки Meta про це сказано прямо: «Llama models aren't run for you through Model API». Іншими словами, тепер Llama потрібно або завантажувати й запускати самостійно, або використовувати через сторонніх провайдерів. Див. розʼяснення Meta щодо Llama та Model API.

Моделі Muse недоступні в нашому чаті, а їхня тарифікація виходить за межі цієї статті. Решта посібника присвячена саме Llama.

Короткий огляд варіантів

• Маршрутизатор моделей, як-от OpenRouter. Один API-ключ, один ендпоінт у стилі OpenAI та безліч моделей. Зручно для тестування різних версій Llama та перемикання між ними.
• Хмарний провайдер із прямим хостингом Llama. Чимало інференс-платформ і великих хмарних провайдерів пропонують моделі Llama. Перед вибором порівняйте ціни, ліміти запитів і політику обробки даних.
• Власний сервер або компʼютер. Запустіть Llama через LM Studio, Ollama або llama.cpp і надсилайте запити через локальний OpenAI-сумісний API. Жодної плати за токени та повний контроль над даними. Див. локальний запуск Llama.

Виклики Llama через OpenRouter

API від OpenRouter працює за тим самим форматом, що й chat completions API від OpenAI, тому більшість наявного коду та бібліотек запрацює після зміни базової адреси й назви моделі. Створіть акаунт і ключ API на OpenRouter, збережіть ключ у змінній середовища OPENROUTER_API_KEY і ніколи не додавайте його в клієнтський код. Усі кроки описано в короткому посібнику OpenRouter.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Напиши хоку про моделі з відкритими вагами."}
    ]
  }'

Python з OpenAI SDK

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Підсумуй ліцензію Llama трьома пунктами."}],
)
print(response.choices[0].message.content)

JavaScript із fetch

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Запропонуй три назви для пекарні." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Виконуйте такий JavaScript на сервері, а не у браузері, щоб ключ залишався захищеним. Також підтримується стримінг, якщо ви хочете показувати відповідь слово за словом.

Надсилання зображень до Llama 4

Llama 4 Maverick та Scout підтримують обробку зображень. У форматі стилю OpenAI вміст повідомлення стає списком із текстової та графічної частин:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Що зображено на цьому фото?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B та Llama 3.1 8B працюють лише з текстом, тому для аналізу зображень надсилайте їх до моделі Llama 4.

Назви моделей Llama та ціни

Нижче наведено перелік моделей Llama, доступних на OpenRouter, їхні системні назви, контекстні вікна та ціни за мільйон токенів. Усі ціни вказано згідно з тарифами OpenRouter за жовтень 2026 року; вони можуть змінюватися, тому перевіряйте актуальність перед плануванням бюджету.

Зверніть увагу: наведені тут контекстні вікна обмежені провайдерами OpenRouter і можуть бути меншими за зазначені в офіційних специфікаціях Meta. Meta вказує 10 мільйонів токенів для Scout і 1 мільйон для Maverick.

Використання локальної Llama як API

Якщо ви запускаєте Llama самостійно, той самий код можна спрямувати на власну машину. Сервер LM Studio використовує адресу http://localhost:1234/v1, а команда llama serve у llama.cpp також запускає OpenAI-сумісний сервер; див. документацію сервера LM Studio та README llama.cpp. Ollama має власний API за адресою http://localhost:11434/api/chat. Замість назви з OpenRouter вказуйте назву моделі, яку відображає ваша локальна програма.

Поради щодо розробки з Llama

• Почніть із Maverick або Scout для універсальних завдань і зображень, а для випадків, де швидкість і вартість важливіші за глибину аналізу, спробуйте Llama 3.1 8B.
• Задавайте системний промпт, описуючи необхідну роль, тон та формат виводу.
• Додайте рівень безпеки для публічних продуктів. Llama Guard 4 вміє класифікувати як запити користувачів, так і відповіді.
• Дотримуйтесь ліцензії. Продукти, створені на базі Llama, повинні містити позначку "Built with Llama" та відповідати політиці прийнятного використання Meta. Перегляньте наш довідник з ліцензування.
• Памʼятайте про актуальність знань. Llama 4 володіє інформацією до серпня 2024 року; за потреби додавайте найсвіжіші факти безпосередньо в промпт.

Поширені проблеми

• Помилки авторизації зазвичай свідчать про те, що ключ відсутній, введений із помилкою або не завантажився в середовище виконання коду.
• Повідомлення «Model not found» зазвичай виникає через одрук у назві моделі. Скопіюйте її точно з таблиці вище, не забуваючи префікс meta-llama/.
• Зображення ігнорується або відхиляється, якщо надіслати його суто текстовій моделі. Використовуйте для цього Maverick або Scout.
• Обрізані відповіді означають, що перевищено ліміт вихідних токенів. Попросіть модель відповісти стисліше або збільште значення ліміту максимальної кількості токенів.

Часті запитання

Чи надає Meta свій API для Llama й надалі?

Ні. Meta закрила превʼю власного розміщеного API для Llama 6 липня 2026 року. Сервіс Meta Model API пропонує моделі Muse, а не Llama.

Чи є безкоштовний API для Llama?

Локальний запуск Llama не потребує оплати за токени. Хмарні API стягують плату за кожен токен, хоча компактні моделі, такі як Llama 3.1 8B, коштують зовсім недорого.

Чи є API у сайту Llama.Online?

Ні. Llama.Online працює лише як чат у браузері. Для інтеграції у власний код використовуйте хмарного провайдера або локальний сервер.

Чи можна використовувати OpenAI SDK разом із Llama?

Так. Для цього спрямуйте SDK на OpenAI-сумісний ендпоінт, як-от OpenRouter або локальний сервер LM Studio, і вкажіть назву відповідної моделі Llama.