Llama 3.2

Llama 3.2 چیست و چه کسی آن را می‌سازد؟

Llama 3.2 مجموعه‌ای از مدل‌ها است که Meta در ۲۵ سپتامبر ۲۰۲۴ منتشر کرد. این نسخه به‌طور هم‌زمان دو مسیر متفاوت را دنبال کرد: از یک سو، دو مدل متنی بسیار کوچک یعنی Llama 3.2 1B و 3B که برای اجرا روی گوشی‌ها، لپ‌تاپ‌ها و سایر دستگاه‌های با توان پردازشی محدود طراحی شده‌اند. از سوی دیگر، اولین مدل‌های بینایی ماشین Meta به نام‌های Llama 3.2 11B Vision و 90B Vision که تصویر و متن را با هم دریافت کرده و پاسخ متنی تولید می‌کنند. همه این مدل‌ها تحت مجوز Llama 3.2 Community License قابل دانلود هستند.

خانواده Llama 3.2

Llama 3.2 1B و 3B (متنی)

بر اساس مستندات رسمی Meta، مدل 1B حدود ۱.۲۳ میلیارد پارامتر دارد، هر دو مدل کوچک از پنجره زمینه ۱۲۸ هزار توکن پشتیبانی می‌کنند و روی بیش از ۹ تریلیون توکن با داده‌های تا دسامبر ۲۰۲۳ آموزش دیده‌اند. Meta این مدل‌ها را بخشی با بهره‌گیری از خروجی‌های مدل‌های بزرگ‌تر Llama 3.1 8B و 70B ساخته است؛ تکنیکی که تقطیر دانش (Knowledge Distillation) نامیده می‌شود. کاربردهای در نظر گرفته شده شامل چت کمکی، بازیابی اطلاعات، خلاصه‌سازی، دستیار نگارش در دستگاه‌های موبایل و بازنویسی پرس‌وجوها و پرامپت‌ها است.

همچنین Meta نسخه‌های کوانتیزه‌شده (فشرده‌سازی‌شده) 1B و 3B را برای اجرا روی پردازنده‌های موبایل با حافظه کمتر منتشر کرده است. این نسخه‌ها پنجره زمینه کوتاه‌تر ۸ هزار توکنی دارند.

Llama 3.2 11B و 90B Vision

مدل‌های بینایی ماشین بر پایه مدل متنی Llama 3.1 همراه با یک آداپتور بینایی آموزش‌دیده مجزا ساخته شده‌اند که داده‌های رمزگذار تصویر را به مدل زبانی منتقل می‌کند. به گفته Meta، کاربردهای اصلی این مدل‌ها با پنجره زمینه ۱۲۸ هزار توکنی شامل شناسایی بصری، استدلال مبتنی بر تصویر، ایجاد کپشن و پاسخ به سوالات عمومی درباره عکس‌ها است. یک نکته مهم: برای وظایفی که تصویر و متن را ترکیب می‌کنند، انگلیسی تنها زبانی است که به‌طور رسمی پشتیبانی می‌شود.

Llama 3.2 برای چه کارهایی مناسب است؟

• هوش مصنوعی روی دستگاه (On-device). مدل‌های 1B و 3B به اندازه کافی برای گوشی‌ها و لپ‌تاپ‌های معمولی سبک هستند؛ بنابراین برنامه‌ها می‌توانند آفلاین کار کنند و داده‌ها را درون دستگاه نگه دارند.
• کارهای متنی سریع و کم‌هزینه. خلاصه‌سازی، بازنویسی، دسته‌بندی و پاسخ‌های کوتاه که در آن‌ها نیازی به استفاده از یک مدل غول‌پیکر نیست.
• درک تصویر به زبان انگلیسی. مدل‌های بینایی به توصیف عکس‌ها، خواندن نمودارها و اسناد، و پاسخ به سوالات تصویری می‌پردازند.
• آزمایش و یادگیری. مدل‌های کوچک نقطه شروع محبوبی برای افرادی هستند که می‌خواهند هوش مصنوعی محلی یا فاین‌تیونینگ (Fine-tuning) را برای نخستین بار تجربه کنند.

هشت زبان به‌طور رسمی برای متن پشتیبانی می‌شوند: انگلیسی، آلمانی، فرانسوی، ایتالیایی، پرتغالی، هندی، اسپانیایی و تایلندی.

محدودیت‌هایی که باید بدانید

• کوچک‌تر یعنی محدودتر. مدل‌های 1B و 3B به مراتب اطلاعات کمتری نسبت به مدل‌های بزرگ‌تر دارند و در واقعیت‌ها و استدلال بیشتر دچار اشتباه می‌شوند. خود Meta هم اشاره می‌کند که این مدل‌ها برای محیط‌های بسیار محدود مانند دستگاه‌های موبایل در نظر گرفته شده‌اند.
• دانش قدیمی‌تر. داده‌های آموزشی در دسامبر ۲۰۲۳ به پایان می‌رسند.
• بینایی ماشین فقط به زبان انگلیسی است (برای تسک‌های ترکیبی تصویر و متن)، و مدل‌های بینایی قادر به تولید تصویر نیستند.
• محدودیت اتحادیه اروپا برای مدل‌های بینایی. خط‌مشی استفاده مجاز Meta برای Llama 3.2 مشخص کرده که حقوق مجوز مدل‌های چندوجهی آن به افراد مقیم یا شرکت‌های مستقر در اتحادیه اروپا اعطا نمی‌شود. کاربران نهایی محصولاتی که از قبل این مدل‌ها را در خود دارند تحت تأثیر قرار نمی‌گیرند. مدل‌های متنی 1B و 3B چندوجهی نیستند.
• جایگزین‌های بهتر برای تصاویر. Llama 4 Scout و Maverick به‌طور بومی تصاویر را درک می‌کنند و از زبان‌های بیشتری پشتیبانی می‌کنند.

چگونه Llama 3.2 را به‌طور رسمی دریافت کنیم؟

شرکت Meta همه مدل‌های Llama 3.2 را در Hugging Face تحت سازمان meta-llama منتشر کرده است؛ برای مثال meta-llama/Llama-3.2-3B-Instruct و meta-llama/Llama-3.2-11B-Vision-Instruct. برای دسترسی به فایل‌ها کافی است مجوز را در صفحه مدل بپذیرید. مستندات مدل ویژن اینجا در دسترس است.

برای اجرای محلی، Ollama مدل‌های کوچک را ارائه می‌دهد: دستور ollama run llama3.2 نسخه 3B (حدود ۲.۰ گیگابایت) و دستور ollama run llama3.2:1b نسخه 1B (حدود ۱.۳ گیگابایت) را دانلود می‌کند. LM Studio و llama.cpp نیز آن‌ها را اجرا می‌کنند؛ راهنمای اجرای محلی Llama را ببینید.

از طریق API ابری، OpenRouter مدل Llama 3.2 1B را با قیمت ۰.۰۲۷ دلار ورودی و ۰.۲۰۱ دلار خروجی به ازای هر میلیون توکن، و Llama 3.2 3B را با قیمت ۰.۰۵۰۹ دلار ورودی و ۰.۳۳۵ دلار خروجی به ازای هر میلیون توکن فهرست کرده است (قیمت پایه OpenRouter در اکتبر ۲۰۲۶). راهنمای API ما نحوه فراخوانی مدل‌های Llama را آموزش می‌دهد.

شرایط مجوز در اصل مشابه سایر نسخه‌های Llama است: درج عبارت "Built with Llama"، رعایت خط‌مشی استفاده مجاز، و شرط ۷۰۰ میلیون کاربر فعال ماهانه. صفحه مجوز ما آن‌ها را توضیح می‌دهد.

نکات مربوط به حریم خصوصی

مزیت اصلی حریم خصوصی در Llama 3.2 این است که مدل‌های کوچک می‌توانند به‌طور کامل روی دستگاه شما اجرا شوند، بنابراین هیچ داده‌ای از گوشی یا رایانه شما خارج نمی‌شود. اما اگر از آن‌ها از طریق یک ارائه‌دهنده ابری استفاده کنید، شرایط حریم خصوصی آن سرویس‌دهنده اعمال خواهد شد.

مقایسه Llama 3.2 با سایر مدل‌ها

در مقایسه با Llama 3.1 8B، مدل 3B کوچک‌تر و سبک‌تر اما با توانمندی کمتر است. در مقایسه با Llama 4، مدل‌های بینایی 3.2 قدیمی‌تر هستند، زبان‌های کمتری را برای تصاویر پشتیبانی می‌کنند و همان بند محدودیت اتحادیه اروپا را دارند، در حالی که Llama 4 قابلیت پردازش تصویر را در مدل‌های اصلی خود ارائه می‌دهد. اگر فقط می‌خواهید درباره یک تصویر سوال بپرسید، چت ما با Llama 4 ساده‌ترین گزینه است. روند کامل انتشار نسخه‌ها را می‌توانید در تاریخچه Llama مشاهده کنید.

پرسش‌های متداول

آیا می‌توانم از Llama 3.2 در چت Llama.Online استفاده کنم؟

خیر، Llama 3.2 در چت ما ارائه نمی‌شود. برای تصاویر از Llama 4 Maverick یا Scout و برای پاسخ‌های متنی سریع از Llama 3.1 8B استفاده کنید.

آیا Llama 3.2 روی گوشی موبایل اجرا می‌شود؟

مدل‌های 1B و 3B دقیقاً برای همین هدف طراحی شده‌اند، به‌ویژه نسخه‌های کوانتیزه‌شده‌ای که Meta برای پردازنده‌های موبایل منتشر کرده است. برای این کار به برنامه‌ای نیاز دارید که از مدل‌های محلی پشتیبانی کند.

کدام مدل‌های Llama 3.2 تصاویر را پردازش می‌کنند؟

فقط مدل‌های 11B Vision و 90B Vision. مدل‌های 1B و 3B صرفاً متنی هستند.

آیا کاربران در اتحادیه اروپا می‌توانند از Llama 3.2 استفاده کنند؟

مدل‌های متنی بله، تحت شرایط مجوز قابل استفاده هستند. اما برای مدل‌های بینایی، خط‌مشی Meta حقوق مجوز را به افراد و شرکت‌های مستقر در اتحادیه اروپا اعطا نمی‌کند؛ با این حال کاربران نهایی محصولاتی که با این مدل‌ها توسعه یافته‌اند تحت تأثیر این محدودیت نیستند. این توضیح جنبه اطلاع‌رسانی دارد و مشاوره حقوقی محسوب نمی‌شود.