Llama API: cara menggunakan Llama melalui kod anda

Jawapan ringkas

Untuk menggunakan Llama daripada kod anda sendiri pada tahun 2026, anda mempunyai dua pilihan praktikal: panggil melalui penyedia awan yang mengehoskan model Llama, atau jalankan model itu sendiri menggunakan pelayan tempatan. Meta sendiri tidak lagi menawarkan API dihoskan untuk Llama. Panduan ini menerangkan apa yang telah berubah, kemudian menunjukkan contoh praktikal menggunakan OpenRouter, sebuah perkhidmatan yang menyediakan satu API untuk pelbagai model, termasuk Llama 4 Maverick dan Scout.

Apa yang berlaku kepada API Llama Meta

Selepas pelancaran Llama 4, Meta mengendalikan API Llama yang dihoskan sebagai pratonton awam untuk pembangun. Meta telah menamatkan pratonton tersebut pada 6 Julai 2026. Tawaran pembangun terbaharu Meta, iaitu Meta Model API, menawarkan model Muse Meta seperti Muse Wonder, bukannya Llama. Halaman bantuan Meta sendiri menyatakan secara jelas: "Llama models aren't run for you through Model API." Dalam erti kata lain, Llama kini merupakan sesuatu yang anda muat turun dan jalankan sendiri, atau gunakan melalui penyedia lain. Lihat nota Meta tentang Llama dan Model API.

Model Muse tidak tersedia dalam sembang kami, dan harganya berada di luar skop halaman ini. Selebihnya panduan ini adalah mengenai Llama.

Pilihan anda secara ringkas

• Penghala model seperti OpenRouter. Satu kunci API, satu titik akhir gaya OpenAI, pelbagai model. Sesuai untuk mencuba beberapa versi Llama dan bertukar antaranya dengan mudah.
• Penyedia awan yang mengehoskan Llama secara langsung. Banyak syarikat inferens dan platform awan besar menawarkan model Llama. Bandingkan harga, had kadar (rate limits) dan dasar data sebelum membuat pilihan.
• Pelayan atau komputer anda sendiri. Jalankan Llama menggunakan LM Studio, Ollama atau llama.cpp dan panggil melalui API tempatan yang serasi dengan OpenAI. Tiada kos bagi setiap token, kawalan penuh ke atas data anda. Lihat jalankan Llama secara tempatan.

Memanggil Llama melalui OpenRouter

API OpenRouter menggunakan format yang sama seperti API pelengkapan sembang OpenAI, jadi kebanyakan kod dan pustaka sedia ada boleh berfungsi hanya dengan menukar alamat asas dan nama model. Cipta akaun dan kunci API di OpenRouter, simpan kunci tersebut dalam pemboleh ubah persekitaran bernama OPENROUTER_API_KEY, dan jangan sekali-kali meletakkannya dalam kod bahagian klien. Langkah-langkahnya ada dalam panduan mula pantas OpenRouter.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Tulis haiku tentang model berbobot terbuka (open-weight)."}
    ]
  }'

Python, dengan OpenAI SDK

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Ringkaskan lesen Llama dalam tiga poin."}],
)
print(response.choices[0].message.content)

JavaScript, dengan fetch

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Berikan saya tiga cadangan nama untuk kedai roti." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Jalankan kod JavaScript seperti ini pada pelayan, bukan dalam halaman web, supaya kunci API kekal selamat. Penstriman (streaming) juga disokong jika anda mahu jawapan dipaparkan perkataan demi perkataan.

Menghantar imej ke Llama 4

Llama 4 Maverick dan Scout menyokong input imej. Dalam format gaya OpenAI, kandungan mesej disusun sebagai senarai dengan bahagian teks dan bahagian imej:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Apakah yang ada dalam gambar ini?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B dan Llama 3.1 8B adalah untuk teks sahaja, jadi hantarkan imej kepada model Llama 4.

Nama model Llama dan harga

Berikut ialah model Llama yang disenaraikan oleh OpenRouter, berserta nama model, tetingkap konteks dan harga bagi setiap sejuta token. Semua harga adalah harga senarai OpenRouter, Okt 2026; harga ini boleh berubah, jadi semak semula sebelum merancang belanjawan anda.

Perlu diingat bahawa tetingkap konteks di sini adalah apa yang ditawarkan oleh penyedia OpenRouter, yang mungkin lebih kecil daripada apa yang dinyatakan dalam kad model Meta. Meta menyenaraikan 10 juta token untuk Scout dan 1 juta untuk Maverick.

Menggunakan Llama tempatan sebagai API

Jika anda menjalankan Llama sendiri, anda boleh menghalakan kod yang sama ke komputer anda sendiri. Pelayan LM Studio menggunakan http://localhost:1234/v1 sebagai alamat asas, dan arahan llama serve oleh llama.cpp juga memulakan pelayan yang serasi dengan OpenAI; lihat dokumentasi pelayan LM Studio dan README llama.cpp. Ollama mempunyai API tersendiri di http://localhost:11434/api/chat. Gunakan nama model yang dipaparkan oleh alat tempatan anda dan bukannya nama OpenRouter.

Tip membangunkan aplikasi dengan Llama

• Mulakan dengan Maverick atau Scout untuk tugasan umum dan imej, dan cuba Llama 3.1 8B apabila kelajuan dan kos lebih diutamakan berbanding ketelitian.
• Tetapkan gesaan sistem (system prompt) yang menerangkan peranan, nada dan format output yang anda perlukan.
• Tambah lapisan keselamatan untuk aplikasi awam. Llama Guard 4 boleh mengelaskan gesaan dan jawapan.
• Patuhi lesen. Produk yang dibina dengan Llama mesti memaparkan "Built with Llama" dan mematuhi dasar penggunaan Meta yang boleh diterima. Baca panduan lesen kami.
• Beri perhatian kepada had masa pengetahuan (knowledge cut-offs). Llama 4 mengetahui peristiwa sehingga Ogos 2024; bekalkan model dengan fakta terkini dalam gesaan apabila diperlukan.

Masalah lazim

• Ralat kebenaran (authorization errors) biasanya bermaksud kunci tiada, salah ditaip atau tidak dimuatkan ke dalam persekitaran tempat kod anda dijalankan.
• "Model not found" biasanya berpunca daripada kesilapan menaip nama model. Salin nama dengan tepat daripada jadual di atas, termasuk awalan meta-llama/.
• Imej diabaikan atau ditolak berlaku apabila anda menghantar gambar ke model teks sahaja. Beralih kepada Maverick atau Scout.
• Jawapan terputus bermaksud respons telah mencapai had output. Minta jawapan yang lebih pendek atau tingkatkan tetapan token maksimum.

Soalan Lazim

Adakah Meta masih menawarkan API Llama?

Tidak. Meta telah menutup pratonton API Llama yang dihoskan pada 6 Julai 2026. Meta Model API miliknya menawarkan model Muse, bukannya Llama.

Adakah terdapat API Llama percuma?

Menjalankan Llama secara tempatan adalah percuma bagi setiap token. API yang dihoskan mengenakan caj bagi setiap token, walaupun model kecil seperti Llama 3.1 8B sangat murah.

Adakah Llama.Online mempunyai API?

Tidak. Llama.Online hanya untuk sembang melalui pelayar web. Gunakan penyedia awan atau pelayan tempatan untuk panggilan kod.

Bolehkah saya menggunakan OpenAI SDK dengan Llama?

Boleh. Halakan SDK ke titik akhir yang serasi dengan OpenAI, seperti OpenRouter atau pelayan LM Studio tempatan, dan gunakan nama model Llama.