Llama Guard 4
Llama Guard 4 کوئی چیٹ بوٹ نہیں ہے۔ یہ ایک سیفٹی کلاسیفائر ہے جو پرامپٹس اور جوابات (بشمول تصاویر) کی جانچ کرتا ہے اور انہیں زمرہ وار محفوظ یا غیر محفوظ قرار دیتا ہے۔
Llama Guard 4 کیا ہے اور اسے کس نے بنایا ہے؟
Llama Guard 4 دراصل Meta کا تیار کردہ ایک سیفٹی ماڈل ہے۔ یہ کوئی ایسا چیٹ بوٹ نہیں ہے جس سے آپ بات چیت کر سکیں۔ بلکہ، ڈویلپرز اسے کسی چیٹ ماڈل کے ساتھ سیٹ کرتے ہیں تاکہ یہ دیکھ سکیں کہ ماڈل کو کیا ان پٹ دیا جا رہا ہے اور وہ کیا آؤٹ پٹ دے رہا ہے۔ کسی صارف کے پرامپٹ یا ماڈل کے جواب پر Llama Guard 4 ایک مختصر فیصلہ دیتا ہے: "safe"، یا پھر "unsafe" کے ساتھ خطرے کی ان کیٹیگریز کی نشاندہی کرتا ہے جو اسے ملتی ہیں۔ یہ ٹیکسٹ اور تصاویر دونوں پر کام کرتا ہے، بشمول ایک ہی پرامپٹ میں کئی تصاویر۔
Meta کے ماڈل کارڈ کے مطابق، Llama Guard 4 کے 12 بلین پیرامیٹرز ہیں اور اس کا آرکیٹیکچر ڈینس (dense) ہے۔ Meta نے اسے پہلے سے تربیت یافتہ Llama 4 Scout چیک پوائنٹ سے تیار کیا ہے، جس میں سے روٹڈ ایکسپرٹس کو ہٹا کر صرف شیئرڈ ایکسپرٹ کو باقی رکھا گیا، اور پھر سیفٹی کلاسیفکیشن کے لیے اس کی فائن ٹیوننگ کی گئی۔ یہ اپنا ٹوکنائزر اور وژن انکوڈر Llama 4 Scout اور Maverick کے ساتھ شیئر کرتا ہے اور ایک ہی GPU پر چل سکتا ہے۔ اسے Llama 4 کے لانچ کے چند ہفتوں بعد، 30 اپریل 2025 کو OpenRouter پر لسٹ کیا گیا تھا، اور اسے Llama 4 Community License کے تحت جاری کیا گیا ہے۔
Llama Guard ماڈل فیملی
Meta نے اپنے Llama ریلیزز کے ساتھ Llama Guard کے متعدد ورژنز شائع کیے ہیں۔ Llama Guard 4 نے ان دو مختلف ماڈلز کو ایک ہی کلاسیفائر میں یکجا کر دیا ہے جو پہلے الگ الگ تھے: ٹیکسٹ کے لیے Llama Guard 3 8B اور تصاویر کے لیے Llama Guard 3 11B Vision۔ Meta اسے دیگر اوپن سیفٹی ٹولز کے ساتھ جوڑتا ہے؛ مثال کے طور پر، ماڈل کارڈ پرامپٹ حملوں (جیسے جیل بریک کی کوششوں) کی شناخت کے لیے Llama Prompt Guard 2 تجویز کرتا ہے۔
یہ کن چیزوں کی جانچ کرتا ہے: خطرات کی کیٹیگریز
Llama Guard 4 کو MLCommons ہیزرڈ ٹیکسونومی کے ساتھ ساتھ ٹول کے استعمال کے لیے ایک اضافی کیٹیگری پر ٹرین کیا گیا ہے۔ جب یہ کسی مواد کو غیر محفوظ قرار دیتا ہے، تو یہ ان کیٹیگریز کے نام بتاتا ہے:
| کوڈ | کیٹیگری | کوڈ | کیٹیگری |
|---|---|---|---|
| S1 | پرتشدد جرائم (Violent crimes) | S8 | دانشورانہ ملکیت (Intellectual property) |
| S2 | غیر پرتشدد جرائم (Non-violent crimes) | S9 | اندھا دھند ہتھیار (Indiscriminate weapons) |
| S3 | جنسی جرائم (Sex-related crimes) | S10 | نفرت انگیز مواد (Hate) |
| S4 | بچوں کا جنسی استحصال (Child sexual exploitation) | S11 | خودکشی اور خود کو نقصان پہنچانا (Suicide and self-harm) |
| S5 | ہتکِ عزت (Defamation) | S12 | جنسی مواد (Sexual content) |
| S6 | ماہرانہ مشورے (Specialized advice) | S13 | انتخابات (Elections) |
| S7 | پرائیویسی (Privacy) | S14 | کوڈ انٹرپریٹر کا غلط استعمال (صرف ٹیکسٹ) |
"ماہرانہ مشورے" (Specialized advice) میں وہ جوابات شامل ہیں جن میں خصوصی مالیاتی، طبی یا قانونی مشورے دیے گئے ہوں، یا خطرناک سرگرمیوں یا اشیاء کو محفوظ قرار دیا گیا ہو۔
Llama Guard 4 کی خوبیاں
- ان پٹ فلٹرنگ: مین ماڈل تک پہنچنے سے پہلے صارف کے پرامپٹ کی جانچ کرنا، اور واضح طور پر نقصان دہ درخواستوں کو شروع میں ہی روک دینا۔
- آؤٹ پٹ فلٹرنگ: مین ماڈل کے جواب کو صارف کو دکھانے سے پہلے چیک کرنا، تاکہ ماڈل کو محفوظ جواب دینے کا موقع ملے اور اسے صرف اسی صورت میں روکا جائے جب اس کا جواب غیر محفوظ ہو۔
- تصاویر: ایسے پرامپٹس کو کلاسیفائی کرنا جن میں ٹیکسٹ کے ساتھ ایک یا زائد تصاویر شامل ہوں، جو کہ پہلے صرف ٹیکسٹ والے گارڈز نہیں کر سکتے تھے۔
- متعدد زبانیں: یہ انگریزی کے ساتھ Llama Guard 3 کی زبانوں کو سپورٹ کرتا ہے، جن میں Meta کے مطابق فرانسیسی، جرمن، ہندی، اطالوی، پرتگالی، ہسپانوی اور تھائی شامل ہیں۔
Meta کے مطابق ان پٹ اور آؤٹ پٹ دونوں فلٹرنگ کا بیک وقت استعمال اضافی تحفظ فراہم کرتا ہے، اور اس کے اندرونی ٹیسٹوں میں ان پٹ فلٹرنگ نے آؤٹ پٹ فلٹرنگ کے مقابلے میں انکار کی شرح (refusal rates) کو زیادہ بڑھایا۔
اہم حدود جن کا علم ہونا ضروری ہے
- یہ ایک ماڈل ہے، کوئی مکمل ضابطہ اخلاق نہیں۔ یہ نقصان دہ مواد کو نظر انداز کر سکتا ہے اور بے ضرر مواد کو بھی فلیگ کر سکتا ہے۔ Meta کے کارڈ کے مطابق، ان شعبوں میں جہاں کامن سینس یا مخصوص زبانوں کی ضرورت ہو، اس کی کارکردگی ٹریننگ ڈیٹا کی وجہ سے محدود ہو سکتی ہے۔
- حقائق کی تصدیق کی صلاحیت کا فقدان: ہتکِ عزت، دانشورانہ ملکیت اور انتخابات جیسی کیٹیگریز میں درست فیصلے کے لیے اکثر تازہ ترین حقائق کی ضرورت ہوتی ہے، اور Meta وہاں حساس استعمال کے لیے مزید پیچیدہ سسٹمز تجویز کرتا ہے۔
- پرامپٹ حملے: ایک لینگویج ماڈل ہونے کی وجہ سے، اسے ایڈورسریل یا پرامپٹ انجیکشن حملوں سے دھوکہ دیا جا سکتا ہے۔
- بہت زیادہ تصاویر: اس کا ٹیسٹ زیادہ تر چند تصاویر والے پرامپٹس کے ساتھ کیا گیا تھا، اس لیے بہت زیادہ تصاویر کے ساتھ نتائج مختلف ہو سکتے ہیں۔
Llama Guard 4 باضابطہ طور پر کیسے حاصل کریں
اس کے ویٹس (weights) Hugging Face پر meta-llama/Llama-Guard-4-12B کے نام سے دستیاب ہیں، جہاں Meta کے ماڈل کارڈ میں Transformers لائبریری کے لیے مثال کے طور پر کوڈ بھی شامل ہے۔ فائلز تک رسائی کے لیے ماڈل پیج پر لائسنس قبول کریں۔ OpenRouter اسے 163,840 ٹوکنز کے کانٹیکسٹ ونڈو کے ساتھ $0.18 فی ملین ان پٹ ٹوکنز اور $0.18 فی ملین آؤٹ پٹ ٹوکنز کی شرح سے پیش کرتا ہے (OpenRouter کی فہرست قیمت، اکتوبر 2026)۔
ایک Llama 4 ماڈل ہونے کے ناطے، یہ Llama 4 Community License اور قابل قبول استعمال کی پالیسی کے تحت آتا ہے، جس میں اسے استعمال کرنے والی مصنوعات کے لیے "Built with Llama" کی شرط اور یورپی یونین (EU) میں ملٹی موڈل ماڈلز کے الگ الگ قوانین شامل ہیں۔ آسان الفاظ میں خلاصے کے لیے ہمارا لائسنس پیج اور کوڈ کے ذریعے Llama ماڈلز کو کال کرنے کے لیے ہماری API گائیڈ دیکھیں۔
پرائیویسی کے اہم نکات
ایک سیفٹی کلاسیفائر ہر اس میسج کو پڑھتا ہے جس کی وہ جانچ کرتا ہے، لہذا اسے اپنی AI پائپ لائن کے کسی بھی دوسرے حصے کی طرح سمجھیں: اگر آپ اسے کلاؤڈ پرووائیڈر کے ذریعے کال کرتے ہیں تو اس پرووائیڈر کی پرائیویسی کی شرائط لاگو ہوں گی؛ اگر آپ اسے خود ہوسٹ کرتے ہیں تو ڈیٹا آپ کے اپنے سرورز پر ہی رہے گا۔ ہماری AI پرائیویسی اور سیفٹی گائیڈ صارفین کے لیے بہترین طریقوں کا احاطہ کرتی ہے۔
Llama Guard 4 کا موازنہ
Llama Guard 3 کے مقابلے میں، Meta کی رپورٹ ہے کہ ورژن 4 دو ماڈلز کی بجائے ایک ہی ماڈل ہونے کے باوجود پرانے ٹیکسٹ اور وژن گارڈز کے برابر ہے یا ان سے بہتر کارکردگی دکھاتا ہے۔ چیٹ ماڈلز جیسے کہ Llama 4 Scout کے مقابلے میں، یہ کافی چھوٹا ہے اور صرف کلاسیفائی کرتا ہے؛ یہ جوابات نہیں لکھتا۔ اگر آپ اوپن ماڈلز پر کوئی ایپ بنا رہے ہیں، تو اس قسم کا گارڈ ماڈل صارفین کے لیے واضح اصولوں، ریٹ لمٹس اور انسانی نگرانی کے ساتھ مل کر سیفٹی کی ایک بہترین پرت فراہم کرتا ہے۔
عام پوچھے جانے والے سوالات (FAQ)
کیا میں Llama.Online پر Llama Guard 4 سے چیٹ کر سکتا ہوں؟
نہیں، Llama Guard 4 ہماری چیٹ میں شامل نہیں ہے۔ یہ ڈویلپرز کے لیے ایک کلاسیفائر ہے، کوئی بات چیت کرنے والا ماڈل نہیں۔
Llama Guard 4 کیا آؤٹ پٹ دیتا ہے؟
ایک مختصر ٹیکسٹ فیصلہ: "safe"، یا "unsafe" کے ساتھ کیٹیگری کوڈز جیسے کہ اندھا دھند ہتھیاروں کے لیے S9۔
کیا یہ تصاویر کے ساتھ کام کرتا ہے؟
جی ہاں۔ یہ ایسے پرامپٹس کو کلاسیفائی کرتا ہے جو ٹیکسٹ اور ایک یا زیادہ تصاویر کو یکجا کرتے ہیں۔
کیا Llama Guard 4 مفت استعمال کیا جا سکتا ہے؟
Llama 4 Community License کے تحت اس کے ویٹس ڈاؤن لوڈ کرنے کے لیے مفت ہیں۔ ہوسٹڈ APIs ٹوکن کے حساب سے چارج کرتی ہیں۔
Llama سے اپنا پہلا سوال پوچھیں
نہ کسی اکاؤنٹ کی ضرورت اور نہ کچھ انسٹال کرنا ہے۔ چیٹ کھولیں، پیغام ٹائپ کریں اور دیکھیں Llama کیا کر سکتا ہے۔
Llama چیٹ کھولیں