Llama API: अपने कोड में Llama का इस्तेमाल कैसे करें

सीधा जवाब

2026 में अपने कोड से Llama का इस्तेमाल करने के लिए आपके पास दो व्यावहारिक तरीके हैं: इसे होस्ट करने वाले किसी क्लाउड प्रोवाइडर के ज़रिए कॉल करें, या मॉडल को खुद रन करके एक लोकल सर्वर का उपयोग करें। Meta अब Llama के लिए कोई होस्टेड API नहीं देता। यह गाइड बताती है कि क्या बदलाव आए हैं, और फिर OpenRouter का उपयोग करके काम करने वाले उदाहरण दिखाती है—यह एक ऐसी सेवा है जो Llama 4 Maverick और Scout सहित कई मॉडल्स के लिए एक ही API प्रदान करती है।

Meta के Llama API का क्या हुआ

Llama 4 के लॉन्च के बाद, Meta ने डेवलपर्स के लिए एक पब्लिक प्रीव्यू के तौर पर होस्टेड Llama API चलाया था। Meta ने उस प्रीव्यू को 6 जुलाई, 2026 को बंद कर दिया। Meta की नई डेवलपर पेशकश, Meta Model API, Meta के Muse मॉडल्स (जैसे Muse Wonder) को सर्व करती है, Llama को नहीं। Meta के अपने हेल्प पेज पर साफ लिखा है: "Llama models aren't run for you through Model API।" दूसरे शब्दों में, Llama अब ऐसा मॉडल है जिसे आप डाउनलोड करके खुद चलाते हैं, या अन्य प्रोवाइडर्स के ज़रिए इस्तेमाल करते हैं। देखें Llama और Model API पर Meta का नोट।

Muse मॉडल्स हमारे चैट में उपलब्ध नहीं हैं, और उनकी कीमतें इस पेज के दायरे से बाहर हैं। इस गाइड का बाकी हिस्सा Llama के बारे में है।

आपके विकल्प एक नज़र में

• OpenRouter जैसा मॉडल राउटर। एक API key, एक OpenAI-स्टाइल एंडपॉइंट, और कई सारे मॉडल्स। कई Llama वर्ज़न आज़माने और उनके बीच स्विच करने के लिए बेहतरीन।
• Llama को सीधे होस्ट करने वाला क्लाउड प्रोवाइडर। कई इन्फ़्रेंस कंपनियाँ और बड़े क्लाउड प्लेटफ़ॉर्म Llama मॉडल्स पेश करते हैं। चुनने से पहले कीमतों, रेट लिमिट्स और डेटा नीतियों की तुलना कर लें।
• आपका अपना सर्वर या कंप्यूटर। LM Studio, Ollama या llama.cpp के साथ Llama चलाएँ और इसे एक लोकल, OpenAI-कम्पैटिबल API के ज़रिए कॉल करें। प्रति-टोकन कोई खर्च नहीं, और डेटा पर पूरा नियंत्रण। देखें Llama को लोकली रन करें।

OpenRouter के ज़रिए Llama को कॉल करना

OpenRouter का API ठीक OpenAI के चैट कम्प्लीशन्स API फ़ॉर्मेट का पालन करता है, इसलिए ज़्यादातर मौजूदा कोड और लाइब्रेरी केवल बेस एड्रेस और मॉडल का नाम बदलकर काम करते हैं। OpenRouter पर एक अकाउंट और API key बनाएँ, की (key) को OPENROUTER_API_KEY नाम के एन्वायरनमेंट वेरिएबल में स्टोर करें, और इसे कभी भी क्लाइंट-साइड कोड में न रखें। इसके स्टेप्स OpenRouter क्विकस्टार्ट में दिए गए हैं।

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "ओपन-वेट मॉडल्स पर एक हाइकू लिखें।"}
    ]
  }'

Python, OpenAI SDK के साथ

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Llama लाइसेंस का तीन बुलेट पॉइंट्स में सारांश दें।"}],
)
print(response.choices[0].message.content)

JavaScript, fetch के साथ

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "एक बेकरी के लिए तीन नाम सुझाएँ।" }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

इस तरह के JavaScript को सर्वर पर रन करें, वेब पेज में नहीं, ताकि की (key) सुरक्षित रहे। अगर आप चाहते हैं कि जवाब शब्द-दर-शब्द दिखे, तो स्ट्रीमिंग भी सपोर्टेड है।

Llama 4 को इमेज भेजना

Llama 4 Maverick और Scout इमेज स्वीकार करते हैं। OpenAI-स्टाइल फ़ॉर्मेट में, मैसेज कंटेंट एक लिस्ट बन जाता है जिसमें एक टेक्स्ट पार्ट और एक इमेज पार्ट होता है:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "इस तस्वीर में क्या है?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B और Llama 3.1 8B केवल टेक्स्ट सपोर्ट करते हैं, इसलिए इमेज हमेशा Llama 4 मॉडल को ही भेजें।

Llama मॉडल के नाम और कीमतें

यहाँ OpenRouter पर लिस्टेड Llama मॉडल्स दिए गए हैं, उनके मॉडल नाम, कॉन्टेक्स्ट विंडो और प्रति 10 लाख (1M) टोकन की कीमतों के साथ। सभी कीमतें OpenRouter की लिस्ट प्राइस (अक्टूबर 2026) हैं; ये बदल सकती हैं, इसलिए बजट तय करने से पहले ज़रूर जाँच लें।

ध्यान दें कि यहाँ दी गई कॉन्टेक्स्ट विंडो वह है जो OpenRouter के प्रोवाइडर्स सर्व करते हैं, जो Meta के मॉडल कार्ड में बताए गए साइज़ से कम हो सकती है। Meta ने Scout के लिए 1 करोड़ (10M) टोकन और Maverick के लिए 10 लाख (1M) टोकन लिस्ट किए हैं।

लोकल Llama को API के रूप में इस्तेमाल करना

अगर आप Llama खुद रन करते हैं, तो उसी कोड को अपनी मशीन पर पॉइंट कर सकते हैं। LM Studio का सर्वर बेस एड्रेस के रूप में http://localhost:1234/v1 का इस्तेमाल करता है, और llama.cpp का llama serve कमांड भी एक OpenAI-कम्पैटिबल सर्वर शुरू करता है; देखें LM Studio सर्वर डॉक्स और llama.cpp README। Ollama का अपना API http://localhost:11434/api/chat पर होता है। OpenRouter के नाम की जगह वह मॉडल नाम इस्तेमाल करें जो आपका लोकल टूल दिखाता है।

Llama के साथ डेवलपमेंट के टिप्स

• आम कामों और इमेज के लिए Maverick या Scout से शुरुआत करें, और जहाँ गहराई से ज़्यादा स्पीड और लागत मायने रखती हो, वहाँ Llama 3.1 8B आज़माएँ।
• अपनी ज़रूरत के रोल, टोन और आउटपुट फ़ॉर्मेट को बताते हुए एक सिस्टम प्रॉम्प्ट सेट करें।
• पब्लिक ऐप्स के लिए एक सुरक्षा लेयर जोड़ें। Llama Guard 4 प्रॉम्प्ट्स और जवाबों को क्लासिफाई कर सकता है।
• लाइसेंस का पालन करें। Llama से बने प्रोडक्ट्स में "Built with Llama" दिखाना ज़रूरी है और उन्हें Meta की स्वीकार्य उपयोग नीति का पालन करना होगा। हमारी लाइसेंस गाइड पढ़ें।
• नॉलेज कट-ऑफ का ध्यान रखें। Llama 4 को अगस्त 2024 तक की घटनाओं की जानकारी है; ज़रूरत पड़ने पर प्रॉम्प्ट में मॉडल को ताज़ा फैक्ट्स दें।

आम समस्याएँ

• ऑथराइज़ेशन एरर का मतलब आमतौर पर यह होता है कि की (key) मौजूद नहीं है, गलत टाइप की गई है, या उस एन्वायरनमेंट में लोड नहीं है जहाँ आपका कोड रन हो रहा है।
• "Model not found" का मतलब आम तौर पर मॉडल के नाम में टाइपो होता है। ऊपर दी गई टेबल से इसे बिल्कुल वैसा ही कॉपी करें, जिसमें meta-llama/ प्रीफ़िक्स भी शामिल हो।
• इमेज इग्नोर या रिजेक्ट होना तब होता है जब आप किसी केवल-टेक्स्ट वाले मॉडल को तस्वीर भेजते हैं। इसके लिए Maverick या Scout पर स्विच करें।
• जवाब कट जाना का मतलब है कि जवाब आउटपुट लिमिट तक पहुँच गया। छोटा जवाब देने को कहें या मैक्सिमम टोकन की सेटिंग बढ़ाएँ।

अक्सर पूछे जाने वाले सवाल (FAQ)

क्या Meta अभी भी Llama API ऑफर करता है?

नहीं। Meta ने 6 जुलाई, 2026 को अपना होस्टेड Llama API प्रीव्यू बंद कर दिया। इसका Meta Model API केवल Muse मॉडल्स को सर्व करता है, Llama को नहीं।

क्या कोई मुफ़्त Llama API है?

Llama को लोकली रन करने पर प्रति-टोकन कोई खर्च नहीं आता। होस्टेड APIs प्रति-टोकन चार्ज लेते हैं, हालांकि Llama 3.1 8B जैसे छोटे मॉडल्स काफी सस्ते हैं।

क्या Llama.Online का कोई API है?

नहीं। Llama.Online केवल ब्राउज़र चैट के लिए है। कोड के लिए किसी क्लाउड प्रोवाइडर या लोकल सर्वर का उपयोग करें।

क्या मैं Llama के साथ OpenAI SDK का उपयोग कर सकता हूँ?

हाँ। बस SDK को किसी OpenAI-कम्पैटिबल एंडपॉइंट (जैसे OpenRouter या लोकल LM Studio सर्वर) पर पॉइंट करें और Llama मॉडल का नाम उपयोग करें।