Llama API: So bindest du Llama in deinen Code ein

Die kurze Antwort

Wenn du Llama 2026 in deinem eigenen Code nutzen willst, hast du zwei praktische Wege: Du bindest es über einen Cloud-Anbieter ein, der Llama-Modelle hostet, oder du betreibst das Modell selbst auf einem lokalen Server. Meta selbst bietet keine gehostete API mehr für Llama an. Diese Anleitung erklärt, was sich geändert hat, und zeigt funktionierende Beispiele mit OpenRouter – einem Dienst, der eine zentrale API für viele Modelle bietet, darunter Llama 4 Maverick und Scout.

Was mit Metas Llama-API passiert ist

Nach dem Start von Llama 4 bot Meta eine gehostete Llama-API als Public Preview für Entwickler an. Diese Preview hat Meta am 6. Juli 2026 eingestellt. Metas neueres Entwicklerangebot, die Meta Model API, stellt Metas Muse-Modelle wie Muse Wonder bereit – nicht aber Llama. Auf Metas eigener Hilfeseite heißt es dazu ganz direkt: „Llama models aren't run for you through Model API.“ Mit anderen Worten: Llama musst du inzwischen selbst herunterladen und betreiben oder über Drittanbieter nutzen. Siehe dazu Metas Hinweis zu Llama und der Model API.

Muse-Modelle sind in unserem Chat nicht verfügbar, und ihre Preise sind nicht Thema dieser Seite. Im weiteren Verlauf dieser Anleitung geht es ausschließlich um Llama.

Deine Optionen im Überblick

• Ein Modell-Router wie OpenRouter. Ein API-Schlüssel, ein Endpunkt im OpenAI-Stil, viele Modelle. Ideal, um verschiedene Llama-Versionen auszuprobieren und flexibel zwischen ihnen zu wechseln.
• Ein Cloud-Anbieter, der Llama direkt hostet. Viele Inferenz-Anbieter und große Cloud-Plattformen bieten Llama-Modelle an. Vergleiche vor der Auswahl Preise, Rate-Limits und Datenschutzrichtlinien.
• Dein eigener Server oder Computer. Betreibe Llama mit LM Studio, Ollama oder llama.cpp und binde es über eine lokale, OpenAI-kompatible API ein. Keine Token-Kosten, volle Kontrolle über deine Daten. Siehe Llama lokal ausführen.

Llama über OpenRouter aufrufen

Die API von OpenRouter nutzt das gleiche Format wie die Chat-Completions-API von OpenAI. Daher funktioniert der meiste bestehende Code und bestehende Bibliotheken direkt – du musst lediglich die Basis-URL und den Modellnamen anpassen. Erstelle ein Konto und einen API-Schlüssel auf OpenRouter, speichere den Schlüssel in einer Umgebungsvariable namens OPENROUTER_API_KEY und binde ihn niemals in clientseitigen Code ein. Die genauen Schritte findest du im OpenRouter-Quickstart.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Schreibe ein Haiku über Open-Weight-Modelle."}
    ]
  }'

Python mit dem OpenAI-SDK

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Fasse die Llama-Lizenz in drei Stichpunkten zusammen."}],
)
print(response.choices[0].message.content)

JavaScript mit fetch

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Nenne mir drei Namen für eine Bäckerei." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Führe solchen JavaScript-Code immer auf einem Server aus, nicht direkt im Browser, damit dein API-Schlüssel geheim bleibt. Streaming wird ebenfalls unterstützt, falls du Antworten Wort für Wort einblenden möchtest.

Ein Bild an Llama 4 senden

Llama 4 Maverick und Scout können Bilder verarbeiten. Im OpenAI-kompatiblen Format wird der Inhalt der Nachricht zu einem Array mit einem Text- und einem Bildteil:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Was ist auf diesem Bild zu sehen?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B und Llama 3.1 8B verarbeiten ausschließlich Text. Sende Bilder daher immer an ein Llama 4-Modell.

Llama-Modellnamen und Preise

Hier sind die Llama-Modelle auf OpenRouter mit ihren Modellnamen, Kontextfenstern und Preisen pro Million Token aufgeführt. Alle Angaben entsprechen den Listenpreisen von OpenRouter (Stand: Okt. 2026); Preise können sich ändern, prüfe sie also vor deiner Budgetplanung.

Beachte, dass die hier genannten Kontextfenster von den Anbietern auf OpenRouter bereitgestellt werden und kleiner sein können als in Metas Modellkarten angegeben. Meta spezifiziert 10 Millionen Token für Scout und 1 Million für Maverick.

Ein lokales Llama als API nutzen

Wenn du Llama selbst ausführst, kannst du denselben Code einfach auf deinen eigenen Rechner richten. Der Server von LM Studio nutzt http://localhost:1234/v1 als Basisadresse, und der Befehl llama serve von llama.cpp startet ebenfalls einen OpenAI-kompatiblen Server; siehe die LM Studio-Server-Doku und die llama.cpp-README. Ollama bietet eine eigene API unter http://localhost:11434/api/chat. Verwende dabei einfach den Modellnamen, den dein lokales Tool anzeigt, statt des OpenRouter-Namens.

Tipps für die Entwicklung mit Llama

• Starte mit Maverick oder Scout für allgemeine Aufgaben und Bilder. Nutze Llama 3.1 8B, wenn Geschwindigkeit und Kosten wichtiger sind als maximale Tiefe.
• Setze einen System-Prompt, um Rolle, Tonfall und das gewünschte Ausgabeformat klar zu definieren.
• Integriere eine Sicherheitsebene für öffentliche Apps. Llama Guard 4 kann Prompts und Antworten zuverlässig klassifizieren.
• Beachte die Lizenz. Produkte auf Basis von Llama müssen den Hinweis „Built with Llama“ tragen und Metas Richtlinien zur akzeptablen Nutzung einhalten. Lies dazu unseren Lizenz-Leitfaden.
• Wissensstand beachten. Llama 4 kennt Ereignisse bis August 2024. Übergib dem Modell aktuelle Fakten bei Bedarf direkt im Prompt.

Häufige Probleme

• Autorisierungsfehler: Meist fehlt der Schlüssel, er wurde falsch abgetippt oder in der Laufzeitumgebung deines Codes nicht geladen.
• „Model not found“: Meist ein Tippfehler im Modellnamen. Kopiere ihn exakt aus der obigen Tabelle, inklusive des Präfix meta-llama/.
• Bild wird ignoriert oder abgelehnt: Das passiert, wenn du ein Bild an ein reines Textmodell sendest. Wechsle zu Maverick oder Scout.
• Abgeschnittene Antworten: Die Ausgabe hat das Token-Limit erreicht. Bitte um eine kürzere Antwort oder erhöhe den Wert für die maximalen Token.

FAQ

Bietet Meta noch eine Llama-API an?

Nein. Meta hat die Preview seiner gehosteten Llama-API am 6. Juli 2026 beendet. Die Meta Model API stellt Muse-Modelle bereit, nicht Llama.

Gibt es eine kostenlose Llama-API?

Wenn du Llama lokal ausführst, fallen keine Kosten pro Token an. Gehostete APIs rechnen nach Token ab, wobei kleine Modelle wie Llama 3.1 8B extrem günstig sind.

Hat Llama.Online eine API?

Nein. Llama.Online ist ein reiner Chat für den Browser. Für Code-Projekte nutze bitte einen Cloud-Anbieter oder einen lokalen Server.

Kann ich das OpenAI-SDK mit Llama nutzen?

Ja. Richte das SDK einfach auf einen OpenAI-kompatiblen Endpunkt wie OpenRouter oder einen lokalen LM Studio-Server aus und gib einen Llama-Modellnamen an.