Llama API: کوڈ میں Llama استعمال کرنے کا طریقہ
Meta نے جولائی 2026 میں اپنی ہوسٹڈ Llama API بند کر دی، مگر کوڈ کے ذریعے اسے چلانا اب بھی آسان ہے۔ جانیے اسے OpenRouter یا اپنے لوکل سرور کے ذریعے کیسے استعمال کریں۔
مختصر جواب
2026 میں اپنے کوڈ سے Llama استعمال کرنے کے لیے آپ کے پاس دو عملی راستے ہیں: اسے کسی کلاؤڈ فراہم کنندہ کے ذریعے کال کریں جو Llama ماڈلز ہوسٹ کرتا ہے، یا ماڈل کو خود چلا کر لوکل سرور استعمال کریں۔ Meta اب بذاتِ خود Llama کے لیے ہوسٹڈ API پیش نہیں کرتا۔ یہ گائیڈ واضح کرتی ہے کہ کیا تبدیلیاں آئی ہیں، اور پھر OpenRouter کا استعمال کرتے ہوئے عملی مثالیں دکھاتی ہے—یہ ایک ایسی سروس ہے جو Llama 4 Maverick اور Scout سمیت کئی ماڈلز کے لیے ایک واحد API فراہم کرتی ہے۔
Meta کے Llama API کا کیا ہوا؟
Llama 4 کی لانچ کے بعد، Meta نے ڈویلپرز کے لیے ایک پبلک پریویو کے طور پر ہوسٹڈ Llama API چلایا۔ Meta نے وہ پریویو 6 جولائی 2026 کو بند کر دیا۔ Meta کی نئی ڈویلپر پیشکش، Meta Model API، Meta کے Muse ماڈلز جیسے Muse Wonder کو سپورٹ کرتی ہے، Llama کو نہیں۔ Meta کے اپنے امدادی صفحے پر واضح لکھا ہے: "Model API کے ذریعے آپ کے لیے Llama ماڈلز نہیں چلائے جاتے۔" دوسرے لفظوں میں، Llama اب ایسی چیز ہے جسے آپ خود ڈاؤن لوڈ کر کے چلاتے ہیں، یا دوسرے فراہم کنندگان کے ذریعے استعمال کرتے ہیں۔ دیکھیے Llama اور Model API پر Meta کا نوٹ۔
Muse ماڈلز ہمارے چیٹ میں دستیاب نہیں ہیں، اور ان کی قیمتیں اس صفحے کے دائرہ کار سے باہر ہیں۔ اس گائیڈ کا باقی حصہ Llama کے بارے میں ہے۔
آپ کے اختیارات، ایک نظر میں
- ماڈل راؤٹر جیسے کہ OpenRouter۔ ایک API کلید، ایک OpenAI طرز کا اینڈ پوائنٹ، اور متعدد ماڈلز۔ Llama کے مختلف ورژنز آزمانے اور ان کے درمیان سوئچ کرنے کے لیے بہترین۔
- وہ کلاؤڈ فراہم کنندہ جو براہِ راست Llama ہوسٹ کرتا ہے۔ کئی انفیرنس کمپنیاں اور بڑے کلاؤڈ پلیٹ فارمز Llama ماڈلز پیش کرتے ہیں۔ انتخاب کرنے سے پہلے قیمتوں، ریٹ کی حدود اور ڈیٹا پالیسیوں کا موازنہ کر لیں۔
- آپ کا اپنا سرور یا کمپیوٹر۔ LM Studio، Ollama یا llama.cpp کے ساتھ Llama چلائیں اور اسے لوکل، OpenAI کے موافق API کے ذریعے کال کریں۔ فی ٹوکن کوئی خرچ نہیں، اور ڈیٹا پر مکمل کنٹرول۔ دیکھیے Llama کو لوکل چلائیں۔
OpenRouter کے ذریعے Llama کو کال کرنا
OpenRouter کا API بالکل OpenAI کے چیٹ کمپلیشنز API کے فارمیٹ پر کام کرتا ہے، اس لیے بنیادی ایڈریس اور ماڈل کا نام تبدیل کر کے زیادہ تر موجودہ کوڈ اور لائبریریاں باآسانی کام کرتی ہیں۔ OpenRouter پر اکاؤنٹ اور API کلید بنائیں، کلید کو OPENROUTER_API_KEY نامی انوائرنمنٹ متغیر (environment variable) میں محفوظ کریں، اور اسے کبھی بھی کلائنٹ سائیڈ کوڈ میں نہ رکھیں۔ مکمل مراحل OpenRouter کوئیک اسٹارٹ میں موجود ہیں۔
curl
curl https://openrouter.ai/api/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-d '{
"model": "meta-llama/llama-4-maverick",
"messages": [
{"role": "user", "content": "اوپن ویٹ ماڈلز کے بارے میں ایک ہائیکو لکھیں۔"}
]
}'
Python، مع OpenAI SDK
import os
from openai import OpenAI
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key=os.environ["OPENROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="meta-llama/llama-4-scout",
messages=[{"role": "user", "content": "Llama لائسنس کا تین نکات میں خلاصہ کریں۔"}],
)
print(response.choices[0].message.content)
JavaScript، مع fetch
const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
method: "POST",
headers: {
"Content-Type": "application/json",
"Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
},
body: JSON.stringify({
model: "meta-llama/llama-3.3-70b-instruct",
messages: [{ role: "user", content: "بیکری کے لیے تین نام تجویز کریں۔" }],
}),
});
const data = await res.json();
console.log(data.choices[0].message.content);
اس قسم کا JavaScript سرور پر چلائیں، ویب پیج میں نہیں، تاکہ کلید خفیہ رہے۔ اگر آپ جواب لفظ بہ لفظ دیکھنا چاہتے ہیں تو اسٹریمنگ بھی دستیاب ہے۔
Llama 4 کو تصویر بھیجنا
Llama 4 Maverick اور Scout تصاویر قبول کرتے ہیں۔ OpenAI طرز کے فارمیٹ میں، میسج کا مواد ایک لسٹ بن جاتا ہے جس میں ایک ٹیکسٹ کا حصہ اور ایک تصویر کا حصہ ہوتا ہے:
{
"model": "meta-llama/llama-4-maverick",
"messages": [{
"role": "user",
"content": [
{"type": "text", "text": "اس تصویر میں کیا ہے؟"},
{"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
]
}]
}
Llama 3.3 70B اور Llama 3.1 8B صرف ٹیکسٹ کے لیے ہیں، اس لیے تصاویر کے لیے Llama 4 ماڈل استعمال کریں۔
Llama ماڈلز کے نام اور قیمتیں
یہ وہ Llama ماڈلز ہیں جن کی فہرست OpenRouter پر موجود ہے، بشمول ان کے ماڈل نام، کانٹیکسٹ ونڈوز اور فی ملین ٹوکنز قیمتیں۔ تمام قیمتیں اکتوبر 2026 کے مطابق OpenRouter کی لسٹ پرائس ہیں؛ ان میں تبدیلی آ سکتی ہے، لہٰذا بجٹ بنانے سے پہلے خود تصدیق کر لیں۔
| ماڈل | API میں ماڈل کا نام | کانٹیکسٹ (ٹوکنز) | ان پٹ / آؤٹ پٹ فی 1M ٹوکنز |
|---|---|---|---|
| Llama 4 Maverick | meta-llama/llama-4-maverick | 524,288 | $0.1875 / $0.6525 |
| Llama 4 Scout | meta-llama/llama-4-scout | 1,310,720 | $0.10 / $0.30 |
| Llama 3.3 70B | meta-llama/llama-3.3-70b-instruct | 131,072 | $0.10 / $0.32 |
| Llama 3.1 70B | meta-llama/llama-3.1-70b-instruct | 131,072 | $0.40 / $0.40 |
| Llama 3.1 8B | meta-llama/llama-3.1-8b-instruct | 131,072 | $0.05 / $0.08 |
| Llama 3.2 3B | meta-llama/llama-3.2-3b-instruct | 131,072 | $0.0509 / $0.335 |
| Llama 3.2 1B | meta-llama/llama-3.2-1b-instruct | 60,000 | $0.027 / $0.201 |
| Llama Guard 4 12B | meta-llama/llama-guard-4-12b | 163,840 | $0.18 / $0.18 |
واضح رہے کہ یہاں کانٹیکسٹ ونڈوز وہ ہیں جو OpenRouter کے فراہم کنندگان پیش کرتے ہیں، جو Meta کے ماڈل کارڈز میں بیان کردہ حدود سے کم ہو سکتی ہیں۔ Meta نے Scout کے لیے 10 ملین اور Maverick کے لیے 1 ملین ٹوکنز درج کیے ہیں۔
لوکل Llama کو بطور API استعمال کرنا
اگر آپ Llama خود چلا رہے ہیں، تو وہی کوڈ اپنی مشین کی طرف موڑ سکتے ہیں۔ LM Studio کا سرور بیس ایڈریس کے طور پر http://localhost:1234/v1 استعمال کرتا ہے، اور llama.cpp کا llama serve کمانڈ بھی ایک OpenAI سے مطابقت رکھنے والا سرور شروع کرتا ہے؛ دیکھیے LM Studio سرور دستاویزات اور llama.cpp README۔ Ollama کا اپنا API http://localhost:11434/api/chat پر موجود ہے۔ OpenRouter کے نام کی جگہ وہ ماڈل نام استعمال کریں جو آپ کا لوکل ٹول دکھاتا ہے۔
Llama کے ساتھ ڈویلپمنٹ کے مفید مشورے
- عام کاموں اور تصاویر کے لیے Maverick یا Scout سے آغاز کریں، اور جہاں گہرائی سے زیادہ رفتار اور لاگت اہم ہو وہاں Llama 3.1 8B آزمائیں۔
- ایک سسٹم پرامپٹ سیٹ کریں جو مطلوبہ کردار، لب و لہجہ اور آؤٹ پٹ کا فارمیٹ واضح کرے۔
- پبلک ایپس کے لیے حفاظتی تہہ (safety layer) شامل کریں۔ Llama Guard 4 پرامپٹس اور جوابات کی درجہ بندی کر سکتا ہے۔
- لائسنس کی پابندی کریں۔ Llama کی مدد سے بنی مصنوعات پر "Built with Llama" ظاہر کرنا اور Meta کی قابلِ قبول استعمال کی پالیسی پر عمل کرنا ضروری ہے۔ ہماری لائسنس گائیڈ پڑھیں۔
- معلومات کی آخری تاریخ (knowledge cutoff) ذہن میں رکھیں۔ Llama 4 اگست 2024 تک کے واقعات سے واقف ہے؛ ضرورت پڑنے پر ماڈل کو پرامپٹ میں تازہ حقائق فراہم کریں۔
عام مسائل
- Authorization کے مسائل کا مطلب عموماً یہ ہوتا ہے کہ کلید غائب ہے، غلط لکھی گئی ہے، یا اس انوائرنمنٹ میں لوڈ نہیں ہوئی جہاں کوڈ چل رہا ہے۔
- "Model not found" عام طور پر ماڈل کے نام میں املا کی غلطی کی وجہ سے آتا ہے۔ اوپر دیے گئے جدول سے اسے بالکل اسی طرح کاپی کریں، بشمول
meta-llama/سابقہ۔ - تصویر کا مسترد یا نظر انداز ہونا اس وقت ہوتا ہے جب آپ صرف ٹیکسٹ والے ماڈل کو تصویر بھیجتے ہیں۔ Maverick یا Scout پر سوئچ کریں۔
- ادھورے جوابات کا مطلب ہے کہ جواب آؤٹ پٹ کی حد تک پہنچ گیا ہے۔ مختصر جواب کی ہدایت دیں یا زیادہ سے زیادہ ٹوکنز کی سیٹنگ بڑھائیں۔
اکثر پوچھے گئے سوالات
کیا Meta اب بھی Llama API پیش کرتا ہے؟
نہیں۔ Meta نے 6 جولائی 2026 کو اپنا ہوسٹڈ Llama API پریویو بند کر دیا تھا۔ اس کا Meta Model API صرف Muse ماڈلز پیش کرتا ہے، Llama نہیں۔
کیا کوئی مفت Llama API موجود ہے؟
Llama کو لوکل چلانے پر فی ٹوکن کوئی خرچ نہیں آتا۔ ہوسٹڈ APIs فی ٹوکن چارج کرتے ہیں، اگرچہ چھوٹے ماڈلز جیسے Llama 3.1 8B خاصے سستے ہیں۔
کیا Llama.Online کا کوئی API ہے؟
نہیں۔ Llama.Online صرف براؤزر چیٹ کے لیے ہے۔ کوڈنگ کے مقاصد کے لیے کلاؤڈ فراہم کنندہ یا لوکل سرور استعمال کریں۔
کیا میں Llama کے ساتھ OpenAI SDK استعمال کر سکتا ہوں؟
جی ہاں۔ بس SDK کو کسی OpenAI کے موافق اینڈ پوائنٹ (جیسے OpenRouter یا لوکل LM Studio سرور) پر پوائنٹ کریں اور Llama ماڈل کا نام استعمال کریں۔
Llama سے اپنا پہلا سوال پوچھیں
نہ کسی اکاؤنٹ کی ضرورت اور نہ کچھ انسٹال کرنا ہے۔ چیٹ کھولیں، پیغام ٹائپ کریں اور دیکھیں Llama کیا کر سکتا ہے۔
Llama چیٹ کھولیں
