Llama API: paano gamitin ang Llama mula sa iyong code

Ang maikling sagot

Para magamit ang Llama mula sa sarili mong code ngayong 2026, may dalawa kang praktikal na opsyon: tawagin ito sa pamamagitan ng cloud provider na nagho-host ng Llama models, o patakbuhin mismo ang model gamit ang isang local server. Ang Meta mismo ay hindi na nag-aalok ng hosted API para sa Llama. Ipinapaliwanag ng gabay na ito kung ano ang nagbago, at nagpapakita ng mga gumaganang halimbawa gamit ang OpenRouter—isang serbisyong nagbibigay ng iisang API para sa maraming models, kabilang ang Llama 4 Maverick at Scout.

Ano ang nangyari sa Llama API ng Meta

Kasunod ng paglabas ng Llama 4, nagpatakbo ang Meta ng isang hosted Llama API bilang public preview para sa mga developer. Isinara ng Meta ang preview na iyon noong Hulyo 6, 2026. Ang mas bagong handog ng Meta para sa mga developer, ang Meta Model API, ay para sa Muse models ng Meta tulad ng Muse Wonder, hindi para sa Llama. Malinaw itong sinasabi sa help page ng Meta: "Llama models aren't run for you through Model API." Sa madaling salita, ang Llama ay kailangan mo nang i-download at patakbuhin mismo, o gamitin sa pamamagitan ng ibang mga provider. Tingnan ang paalala ng Meta tungkol sa Llama at Model API.

Hindi available ang Muse models sa aming chat, at ang kanilang presyo ay hindi sakop ng pahinang ito. Ang kabuuan ng gabay na ito ay nakatuon sa Llama.

Mabilisang buod ng iyong mga opsyon

• Isang model router tulad ng OpenRouter. Isang API key, isang OpenAI-style na endpoint, maraming models. Mainam para sa pagsubok ng iba't ibang bersyon ng Llama at mabilisang pagpapalit-palit sa mga ito.
• Isang cloud provider na direktang nagho-host ng Llama. Maraming inference companies at malalaking cloud platform ang nag-aalok ng Llama models. Paghambingin muna ang presyo, rate limits, at data policies bago pumili.
• Ang sarili mong server o computer. Patakbuhin ang Llama gamit ang LM Studio, Ollama, o llama.cpp at tawagin ito gamit ang isang local, OpenAI-compatible na API. Walang bayad bawat token, at hawak mo nang buo ang iyong data. Tingnan kung paano patakbuhin ang Llama nang lokal.

Paggamit sa Llama sa pamamagitan ng OpenRouter

Sumusunod ang API ng OpenRouter sa parehong format ng chat completions API ng OpenAI, kaya gagana ang karamihan sa mga umiiral nang code at library sa pamamagitan lang ng pagpapalit ng base address at pangalan ng model. Gumawa ng account at API key sa OpenRouter, i-save ang key sa isang environment variable na pinangalanang OPENROUTER_API_KEY, at huwag na huwag itong ilalagay sa client-side code. Makikita ang mga hakbang sa OpenRouter quickstart.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Sumulat ng isang haiku tungkol sa mga open-weight model."}
    ]
  }'

Python, gamit ang OpenAI SDK

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Ibuod ang lisensya ng Llama sa tatlong bullet point."}],
)
print(response.choices[0].message.content)

JavaScript, gamit ang fetch

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Bigyan mo ako ng tatlong pangalan para sa isang panaderya." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Patakbuhin ang JavaScript na tulad nito sa isang server, hindi sa mismong web page, upang manatiling pribado ang key. Suportado rin ang streaming kung nais mong lumabas ang sagot nang paunti-unti bawat salita.

Pagpapadala ng larawan sa Llama 4

Tumatanggap ng mga larawan ang Llama 4 Maverick at Scout. Sa OpenAI-style na format, nagiging isang listahan ang content ng message na may bahagi para sa text at bahagi para sa larawan:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Ano ang nasa larawang ito?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Text lamang ang tinatanggap ng Llama 3.3 70B at Llama 3.1 8B, kaya ipadala ang mga larawan sa isang Llama 4 model.

Mga pangalan ng Llama model at presyo

Ito ang mga Llama model na nakalista sa OpenRouter, kasama ang kanilang mga pangalan sa API, context windows, at presyo bawat milyong token. Lahat ng presyo ay batay sa list price ng OpenRouter noong Okt 2026; maaari itong magbago, kaya tiyaking tingnan muna bago magplano ng budget.

Tandaan na ang context windows na nakasaad dito ay nakadepende sa ibinibigay ng mga provider ng OpenRouter, na maaaring mas maliit kaysa sa nakasaad sa opisyal na model cards ng Meta. Nakalista sa Meta ang 10 milyong tokens para sa Scout at 1 milyon para sa Maverick.

Paggamit ng lokal na Llama bilang API

Kung ikaw mismo ang nagpapatakbo ng Llama, maaari mong ituro ang parehong code sa sarili mong machine. Gumagamit ang server ng LM Studio ng http://localhost:1234/v1 bilang base address, at ang llama serve command ng llama.cpp ay nagpapasimula rin ng isang OpenAI-compatible na server; tingnan ang LM Studio server docs at ang llama.cpp README. May sariling API ang Ollama sa http://localhost:11434/api/chat. Gamitin ang pangalan ng model na ipinapakita ng iyong local tool sa halip na ang pangalan mula sa OpenRouter.

Mga tip sa pag-develop gamit ang Llama

• Magsimula sa Maverick o Scout para sa pangkalahatang gawain at mga larawan, at subukan ang Llama 3.1 8B kung mas mahalaga ang bilis at tipid kaysa sa lalim ng sagot.
• Magtakda ng system prompt na naglalarawan sa role, tono, at format ng output na kailangan mo.
• Magdagdag ng safety layer para sa mga pampublikong app. Kayang suriin at i-classify ng Llama Guard 4 ang mga prompt at sagot.
• Sundin ang lisensya. Ang mga produktong binuo gamit ang Llama ay dapat magpakita ng "Built with Llama" at sumunod sa acceptable use policy ng Meta. Basahin ang aming gabay sa lisensya.
• Tandaan ang knowledge cut-offs. Alam lamang ng Llama 4 ang mga pangyayari hanggang Agosto 2024; magbigay ng mga sariwang impormasyon sa loob ng prompt kung kinakailangan.

Mga karaniwang problema

• Authorization errors: Kadalasang nangangahulugang nawawala, mali ang type, o hindi na-load ang key sa environment kung saan tumatakbo ang iyong code.
• "Model not found": Karaniwang sanhi ng typo sa pangalan ng model. Kopyahin ito nang eksakto mula sa talahanayan sa itaas, kabilang ang meta-llama/ prefix.
• Larawang binalewala o tinanggihan: Nangyayari ito kapag nagpadala ka ng larawan sa isang text-only na model. Lumipat sa Maverick o Scout.
• Napuputol na mga sagot: Ibig sabihin ay umabot na ang sagot sa limitasyon ng output. Humingi ng mas maikling sagot o taasan ang setting ng maximum tokens.

FAQ

Nag-aalok pa ba ang Meta ng Llama API?

Wala na. Isinara ng Meta ang preview ng hosted Llama API nito noong Hulyo 6, 2026. Ang Meta Model API nito ay para sa Muse models, hindi sa Llama.

Mayroon bang libreng Llama API?

Walang bayad bawat token ang pagpapatakbo ng Llama nang lokal. May bayad bawat token ang mga hosted API, bagama't napakamura ng maliliit na model tulad ng Llama 3.1 8B.

May API ba ang Llama.Online?

Wala. Ang Llama.Online ay browser chat lamang. Gumamit ng cloud provider o local server para sa pag-code.

Maaari ko bang gamitin ang OpenAI SDK sa Llama?

Oo. Ituro lang ang SDK sa isang OpenAI-compatible na endpoint, tulad ng OpenRouter o isang lokal na LM Studio server, at gamitin ang pangalan ng isang Llama model.