Llama Guard 4
مدل Llama Guard 4 یک چت‌بات نیست، بلکه یک طبقه‌بندی‌کننده امنیتی است که پرامپت‌ها و پاسخ‌ها (شامل تصاویر) را بررسی کرده و آن‌ها را بر اساس دستهبندی، ایمن یا ناایمن اعلام میکند.
Llama Guard 4 چیست و چه کسی آن را می‌سازد
Llama Guard 4 یک مدل ایمنی از سوی Meta است. این مدل یک چت‌بات برای گفتگو نیست؛ بلکه توسعهدهندگان آن را در کنار یک مدل چت قرار می‌دهند تا ورودی‌ها و خروجی‌ها را بررسی کند. Llama Guard 4 با دریافت پرامپت کاربر یا پاسخ مدل، یک نظر کوتاه ثبت میکند: «safe» (ایمن) یا «unsafe» (ناامن) به همراه دستهبندی خطرات شناسایی‌شده. این مدل با متن و تصاویر، از جمله چند تصویر در یک پرامپت، کار میکند.
طبق کارت مدل Meta، مدل Llama Guard 4 دارای ۱۲ میلیارد پارامتر و معماری متراکم (dense) است. Meta آن را بر پایه چک‌پوینت پیش‌آموزش‌دیده Llama 4 Scout ساخته است؛ به این صورت که کارشناسان مسیریابی‌شده (routed experts) را حذف کرده تا فقط کارشناس مشترک باقی بماند، و سپس نتیجه را برای دستهبندی ایمنی فاین‌تیون کرده است. توکنایزر و انکودر بینایی آن با Llama 4 Scout و Llama 4 Maverick مشترک است و می‌تواند روی یک کارت گرافیک (GPU) تکی اجرا شود. این مدل در ۳۰ آوریل ۲۰۲۵، چند هفته پس از عرضه Llama 4، در OpenRouter فهرست شد و تحت مجوز Llama 4 Community License منتشر شده است.
خانواده Llama Guard
Meta هم‌زمان با نسخه‌های Llama، چندین نسخه از Llama Guard را منتشر کرده است. Llama Guard 4 آنچه را که قبلاً دو مدل مجزا بود—Llama Guard 3 8B برای متن و Llama Guard 3 11B Vision برای تصاویر—در قالب یک دستهبندیکننده واحد ترکیب کرده است. Meta آن را در کنار سایر ابزارهای ایمنی باز به کار می‌گیرد؛ برای مثال، کارت مدل به Llama Prompt Guard 2 برای شناسایی حملات پرامپت مانند تلاش‌های جیلبریک اشاره میکند.
موارد بررسی: دستهبندی خطرات
Llama Guard 4 بر اساس طبقه‌بندی خطرات MLCommons آموزش دیده است، به علاوه یک دستهبندی اضافه برای استفاده از ابزارها. وقتی موردی را ناامن تشخیص می‌دهد، نام دسته‌بندی‌ها را ذکر میکند:
| کد | دستهبندی | کد | دستهبندی |
|---|---|---|---|
| S1 | جرایم خشونت‌آمیز | S8 | مالکیت فکری |
| S2 | جرایم غیرخشونت‌آمیز | S9 | سلاحهای کشتار جمعی و نامتعارف |
| S3 | جرایم جنسی | S10 | نفرت‌پراکنی |
| S4 | سوءاستفاده جنسی از کودکان | S11 | خودکشی و خودآزاری |
| S5 | افترا و هتک حرمت | S12 | محتوای جنسی |
| S6 | مشاوره تخصصی | S13 | انتخابات |
| S7 | حریم خصوصی | S14 | سوءاستفاده از مفسر کد (فقط متن) |
«مشاوره تخصصی» شامل پاسخ‌هایی است که مشاوره‌های تخصصی مالی، پزشکی یا حقوقی ارائه می‌دهند، یا فعالیت‌ها و اشیای خطرناک را بی‌خطر جلوه می‌دهند.
نقاط قوت Llama Guard 4
- فیلتر ورودی: بررسی پرامپت کاربر پیش از دریافت آن توسط مدل اصلی، و متوقف کردن زودهنگام درخواست‌های آشکارا مضر.
- فیلتر خروجی: بررسی پاسخ مدل اصلی پیش از نمایش آن؛ بدین ترتیب مدل فرصت پاسخ‌دهی ایمن را دارد و تنها در صورت ناامن بودن پاسخش مسدود می‌شود.
- تصاویر: دستهبندی پرامپتهایی که متن را با یک یا چند تصویر ترکیب میکنند، کاری که گاردهای متنی قدیمی قادر به انجامش نبودند.
- زبان‌های متعدد: از انگلیسی به همراه زبان‌های Llama Guard 3 پشتیبانی میکند که طبق اعلام Meta شامل فرانسوی، آلمانی، هندی، ایتالیایی، پرتغالی، اسپانیایی و تایلندی است.
Meta خاطرنشان میکند که استفاده هم‌زمان از فیلتر ورودی و خروجی امنیت بیشتری ایجاد میکند، و در آزمایش‌های داخلی آن، فیلتر ورودی نرخ امتناع از پاسخ را بیش از فیلتر خروجی افزایش داده است.
محدودیت‌هایی که باید بدانید
- این یک مدل است، نه یک کتابچه قانون: ممکن است محتوای مضر را از قلم بیندازد و محتوای بی‌ضرر را علامت‌گذاری کند. کارت مدل Meta بیان میکند که عملکرد آن در زمینه‌هایی که نیازمند عقل سلیم یا زبان‌های خاص است، ممکن است به داده‌های آموزشی‌اش محدود باشد.
- حقایقی که نمی‌تواند بررسی کند: دسته‌هایی مانند افترا، مالکیت فکری و انتخابات اغلب برای قضاوت به حقایق به‌روز نیاز دارند، و Meta برای کاربردهای حساس در این حوزه‌ها سیستم‌های پیچیده‌تری را پیشنهاد میکند.
- حملات پرامپت: به عنوان یک مدل زبانی، ممکن است فریب حملات خصمانه یا تزریق پرامپت (prompt injection) را بخورد.
- تصاویر زیاد: این مدل بیشتر با پرامپت‌های حاوی تعداد کمی تصویر آزمایش شده است، بنابراین نتایج برای تصاویر بسیار زیاد ممکن است متفاوت باشد.
نحوه دریافت رسمی Llama Guard 4
وزنهای مدل در Hugging Face با شناسه meta-llama/Llama-Guard-4-12B در دسترس هستند، جایی که کارت مدل Meta شامل کدهای نمونه برای کتابخانه Transformers نیز می‌شود. برای دسترسی به فایل‌ها، مجوز موجود در صفحه مدل را بپذیرید. OpenRouter آن را با پنجره زمینه ۱۶۳,۸۴۰ توکن و با قیمت ۰.۱۸ دلار به ازای هر میلیون توکن ورودی و ۰.۱۸ دلار به ازای هر میلیون توکن خروجی فهرست کرده است (قیمت مصوب OpenRouter، اکتبر ۲۰۲۶).
به عنوان مدلی از خانواده Llama 4، مشمول Llama 4 Community License و خط‌مشی استفاده قابل قبول می‌شود، از جمله درج عبارت "Built with Llama" برای محصولاتی که از آن استفاده میکنند و قوانین مجزا برای مدل‌های چندوجهی در اتحادیه اروپا. برای خلاصه‌ای به زبان ساده، صفحه مجوز ما و برای فراخوانی مدل‌های Llama از طریق کدنویسی، راهنمای API ما را ببینید.
نکات حریم خصوصی
یک دستهبندیکننده ایمنی تمام پیام‌هایی را که بررسی میکند می‌خواند، بنابراین با آن مانند هر بخش دیگری از پایپ‌لاین هوش مصنوعی خود رفتار کنید: اگر آن را از طریق یک ارائه‌دهنده ابری فراخوانی می‌کنید، شرایط حریم خصوصی آن ارائه‌دهنده اعمال می‌شود؛ اگر خودتان آن را میزبانی می‌کنید، داده‌ها روی سرورهای شما باقی می‌ماند. راهنمای ما درباره حریم خصوصی و ایمنی هوش مصنوعی عادت‌های مناسبی را برای کاربران پوشش می‌دهد.
مقایسه Llama Guard 4
در مقایسه با Llama Guard 3، شرکت Meta گزارش می‌دهد که نسخه ۴ تقریباً با گاردهای متنی و بینایی پیشین برابری کرده یا از آن‌ها فراتر می‌رود، در حالی که به جای دو مدل، یک مدل واحد است. در مقایسه با مدل‌های چت مانند Llama 4 Scout، بسیار کوچک‌تر است و فقط دستهبندی میکند؛ پاسخی نمی‌نویسد. اگر در حال ساخت برنامه‌ای بر پایه مدل‌های باز هستید، یک مدل محافظ مانند این، در کنار قوانین شفاف برای کاربران، محدودیت نرخ درخواست (rate limit) و نظارت انسانی، یک لایه ایمنی محسوب می‌شود.
پرسش‌های متداول
آیا میتوانم با Llama Guard 4 در Llama.Online چت کنم؟
خیر، Llama Guard 4 در چت ما موجود نیست. این یک مدل دستهبندیکننده برای توسعهدهندگان است، نه یک مدل مکالمهای.
خروجی Llama Guard 4 چیست؟
یک نظر متنی کوتاه: «safe» یا «unsafe» به همراه کدهای دستهبندی مانند S9 برای سلاحهای نامتعارف.
آیا با تصاویر کار میکند؟
بله. پرامپتهایی را که متن را با یک یا چند تصویر ترکیب میکنند دستهبندی میکند.
آیا استفاده از Llama Guard 4 رایگان است؟
دانلود وزنهای مدل تحت مجوز Llama 4 Community License رایگان است. APIهای میزبانیشده بر اساس توکن هزینه دریافت میکنند.
اولین سؤال خود را از Llama بپرسید
بدون نیاز به حساب کاربری یا نصب. چت را باز کنید، پیامی بنویسید و توانایی‌های Llama را ببینید.
شروع چت با Llama