Llama Guard 4
Llama Guard 4 ليس روبوت دردشة، بل هو مصنف أمان يفحص المطالبات والإجابات، بما في ذلك الصور، ويصنفها كآمنة أو غير آمنة حسب فئات محددة.
ما هو Llama Guard 4 ومن قام بتطويره؟
نموذج Llama Guard 4 هو نموذج أمان وسلامة من Meta. إنه ليس روبوت دردشة تتحدث إليه، بل يضعه المطورون بجانب نموذج المحادثة لفحص المدخلات والمخرجات. وبناءً على مطالبة المستخدم أو رد النموذج، يُصدر Llama Guard 4 حكمًا موجزًا: "safe" (آمن)، أو "unsafe" (غير آمن) متبوعًا بفئات المخاطر التي رصدها. ويعمل النموذج مع النصوص والصور، بما في ذلك التعامل مع صور متعددة في مطالبة واحدة.
وفقًا لبطاقة النموذج من Meta، يحتوي Llama Guard 4 على 12 مليار معلمة (parameters) ويعتمد على بنية كثيفة (dense architecture). طورته Meta عبر أخذ نقطة حفظ مُدربة مسبقًا لنموذج Llama 4 Scout، وإزالة الخبراء الموجّهين (routed experts) للإبقاء فقط على الخبير المشترك (shared expert)، ثم الضبط الدقيق (fine-tuning) للنتيجة لتصنيف الأمان. ويشترك في المُجزئ اللغوي (tokenizer) ومُشفّر الرؤية مع Llama 4 Scout وMaverick، ويمكن تشغيله على وحدة معالجة رسومات (GPU) واحدة. أُدرج على OpenRouter في 30 أبريل 2025، بعد أسابيع قليلة من إطلاق Llama 4، وتم إصداره بموجب ترخيص Llama 4 Community License.
عائلة Llama Guard
نشرت Meta عدة إصدارات من Llama Guard جنبًا إلى جنب مع إصدارات Llama الخاصة بها. يجمع Llama Guard 4 ما كان في السابق نموذجين منفصلين—Llama Guard 3 8B للنصوص وLlama Guard 3 11B Vision للصور—في مصنّف واحد مدمج. وتدمجه Meta مع أدوات أمان مفتوحة أخرى؛ على سبيل المثال، تشير بطاقة النموذج إلى Llama Prompt Guard 2 لاكتشاف الهجمات على المطالبات مثل محاولات كسر الحماية (jailbreak).
ما الذي يفحصه: فئات المخاطر
تم تدريب Llama Guard 4 على تصنيف المخاطر الخاص بـ MLCommons، بالإضافة إلى فئة إضافية لاستخدام الأدوات (tool use). عندما يحدد محتوى على أنه غير آمن، فإنه يذكر الفئات:
| الرمز | الفئة | الرمز | الفئة |
|---|---|---|---|
| S1 | جرائم العنف | S8 | الملكية الفكرية |
| S2 | الجرائم غير العنيفة | S9 | الأسلحة العشوائية (أسلحة الدمار الشامل) |
| S3 | الجرائم الجنسية | S10 | خطاب الكراهية |
| S4 | الاستغلال الجنسي للأطفال | S11 | الانتحار وإيذاء النفس |
| S5 | التشهير والافتراء | S12 | المحتوى الجنسي |
| S6 | الاستشارات المتخصصة | S13 | الانتخابات |
| S7 | الخصوصية | S14 | إساءة استخدام مفسر الأكواد (للنصوص فقط) |
تغطي "الاستشارات المتخصصة" الردود التي تقدم نصائح مالية أو طبية أو قانونية متخصصة، أو تلك التي تقترح أن الأنشطة أو الأدوات الخطيرة تُعد آمنة.
نقاط قوة Llama Guard 4
- تصفية المدخلات: فحص مطالبة المستخدم قبل أن يراها النموذج الرئيسي، وإيقاف الطلبات الضارة بوضوح في مرحلة مبكرة.
- تصفية المخرجات: فحص إجابة النموذج الرئيسي قبل عرضها، مما يمنح النموذج فرصة للرد بأمان ولا يتم حجبه إلا إذا كان رده غير آمن.
- الصور: تصنيف المطالبات التي تجمع بين النصوص وصورة واحدة أو أكثر، وهو ما لم تكن قادرة عليه أدوات الحماية النصية السابقة.
- لغات متعددة: يدعم اللغة الإنجليزية بالإضافة إلى لغات Llama Guard 3، والتي تسردها Meta بأنها الفرنسية والألمانية والهندية والإيطالية والبرتغالية والإسبانية والتايلاندية.
تشير Meta إلى أن استخدام تصفية المدخلات والمخرجات معًا يوفر أمانًا إضافيًا، وأن تصفية المدخلات رفعت معدلات رفض الطلبات أكثر من تصفية المخرجات في اختباراتها الداخلية.
حدود يجب معرفتها
- إنه نموذج ذكاء اصطناعي وليس كتاب قواعد: قد يفوّت محتوى ضارًا أو يصنف محتوى غير ضار بشكل خاطئ. وتذكر بطاقة Meta أن الأداء قد يتأثر ببيانات التدريب في الجوانب التي تتطلب الفطرة السليمة أو لغات معينة.
- حقائق لا يمكنه التحقق منها: فئات مثل التشهير، والملكية الفكرية، والانتخابات تتطلب غالبًا حقائق محدثة لتقييمها، وتوصي Meta بأنظمة أكثر تقدمًا للاستخدامات الحساسة هناك.
- هجمات المطالبات (Prompt Attacks): بصفته نموذج لغة، يمكن خداعه بالهجمات العدائية أو محاولات حقن الأوامر (prompt injection).
- الصور المتعددة بكثرة: تم اختباره في الغالب باستخدام مطالبات تحتوي على عدد قليل من الصور، لذا قد تختلف النتائج عند استخدام صور أكثر بكثير.
كيفية الحصول على Llama Guard 4 رسميًا
الأوزان البرمجية متوفرة على Hugging Face تحت المعرف meta-llama/Llama-Guard-4-12B، حيث تتضمن بطاقة النموذج من Meta أيضًا أمثلة برمجية لمكتبة Transformers. وافق على الترخيص في صفحة النموذج لإتاحة تنزيل الملفات. يدرجه OpenRouter بنافذة سياق تبلغ 163,840 رمزًا (tokens) بتكلفة 0.18 دولار لكل مليون رمز مدخلات و0.18 دولار لكل مليون رمز مخرجات (سعر OpenRouter المعلن، أكتوبر 2026).
بصفته أحد نماذج Llama 4، فإنه يخضع لترخيص Llama 4 Community License وسياسة الاستخدام المقبول، بما في ذلك شارة "Built with Llama" للمنتجات التي تستخدمه والقواعد المنفصلة للنماذج متعددة الوسائط في الاتحاد الأوروبي. راجع صفحة الترخيص الخاصة بنا للحصول على ملخص بلغة واضحة، واطلع على دليل واجهة برمجة التطبيقات (API) لمعرفة كيفية استدعاء نماذج Llama برمجيًا.
ملاحظات الخصوصية
يقرأ مصنّف الأمان كل رسالة يفحصها، لذا تعامل معه كما تتعامل مع أي جزء آخر من بنية الذكاء الاصطناعي لديك: إذا استدعيته عبر مزود سحابي، فستسري شروط الخصوصية الخاصة بهذا المزود؛ وإذا استضفته محليًا، فستبقى البيانات على خوادمك. يغطي دليلنا حول الخصوصية والأمان في الذكاء الاصطناعي أفضل الممارسات للمستخدمين.
مقارنة Llama Guard 4 بالإصدارات الأخرى
مقارنةً بـ Llama Guard 3، تفيد Meta أن الإصدار 4 يضاهي أو يتفوق عمومًا على أدوات حماية النصوص والرؤية السابقة مع كونه نموذجًا موحدًا بدلاً من اثنين. ومقارنة بنماذج الدردشة مثل Llama 4 Scout، فهو أصغر بكثير ومهمته التصنيف فقط؛ ولا يكتب إجابات. وإذا كنت تطور تطبيقًا قائمًا على نماذج مفتوحة، فإن نموذج حماية كهذا يمثل طبقة أمان واحدة، بجانب القواعد الواضحة للمستخدمين وحدود معدل الاستخدام والمراجعة البشرية.
الأسئلة الشائعة
هل يمكنني الدردشة مع Llama Guard 4 على Llama.Online؟
لا، Llama Guard 4 ليس متاحًا في الدردشة لدينا. إنه مصنّف أمان للمطورين، وليس نموذجًا للمحادثة.
ما هي مخرجات Llama Guard 4؟
حكم نصي موجز: "safe" (آمن)، أو "unsafe" (غير آمن) بالإضافة إلى رموز الفئات مثل S9 للأسلحة العشوائية.
هل يعمل مع الصور؟
نعم. يقوم بتصنيف المطالبات التي تجمع بين النصوص وصورة واحدة أو أكثر.
هل استخدام Llama Guard 4 مجاني؟
أوزان النموذج مجانية للتنزيل بموجب ترخيص Llama 4 Community License. بينما تفرض واجهات برمجة التطبيقات المستضافة (APIs) رسومًا بحسب عدد الرموز (tokens).
اطرح سؤالك الأول على Llama
لا حاجة لإنشاء حساب أو تثبيت برامج. افتح المحادثة، واكتب رسالتك، واكتشف قدرات Llama بنفسك.
افتح شات Llama