Llama 3.1 8B

مدل Llama 3.1 8B چیست و چه کسی آن را ساخته است؟

مدل Llama 3.1 8B کوچک‌ترین مدل از سری Llama 3.1 شرکت Meta است که در ۲۳ ژوئیه ۲۰۲۴ منتشر شد. این مدل ۸ میلیارد پارامتر دارد، توانایی خواندن و نوشتن متن را دارد و بر اساس اطلاعات ارائه‌شده در مدل‌کارت Meta، طول پنجره زمینه (context window) آن ۱۲۸ هزار توکن است. داده‌های آموزشی آن در دسامبر ۲۰۲۳ به پایان می‌رسد. وزن‌های این مدل تحت مجوز Llama 3.1 Community License قابل دانلود است.

سری Llama 3.1 در سه اندازه عرضه شد: 8B، 70B و 405B. مدل 405B در آن زمان بزرگ‌ترین مدل در دسترس عموم از سوی Meta بود، در حالی که نسخه 8B با هدف اجرای سریع و کم‌هزینه طراحی شد. در نسخه 3.1، پنجره زمینه طولانی‌تر ۱۲۸ هزار توکنی به مدل‌های کوچک‌تر نیز اضافه شد و مجوزی ارائه گردید که صراحتاً اجازه می‌دهد از خروجی‌های Llama برای بهبود مدل‌های دیگر، مثلاً برای تولید داده‌های آموزشی، استفاده شود.

در چت ما، مدل Llama 3.1 8B سریع‌ترین و سبک‌ترین گزینه است. وب‌سایت Llama.Online کاملاً مستقل است و توسط Meta اداره نمی‌شود؛ این مدل روی سرورهای ابری ارائه‌دهنده سرویس اجرا می‌شود و سایت ما پیام‌های شما را به آن منتقل می‌کند.

جایگاه این مدل در خانواده Llama

چهار مدل موجود در چت ما را مانند پله‌های یک نردبان در نظر بگیرید. مدل Llama 3.1 8B پله اول، سریع و سبک در پایین نردبان است. مدل Llama 3.3 70B یک مدل متنی بسیار بزرگ‌تر با دانش و درک عمیق‌تر از جزئیات است. مدل‌های Llama 4 Scout و Llama 4 Maverick جدیدترین نسل هستند و تصاویر را نیز درک می‌کنند. مدل‌های باز هم کوچک‌تری از Llama وجود دارند: مدل‌های 1B و 3B از سری Llama 3.2 برای گوشی‌ها و دستگاه‌های کوچک ساخته شده‌اند، اما در چت ما قرار ندارند. خط زمانی کامل را می‌توانید در تاریخچه Llama ببینید.

مدل Llama 3.1 8B در چه کارهایی مهارت دارد؟

• پاسخ‌های سریع: تعاریف، توضیحات ساده، تبدیل واحدها و راهنمایی‌های کوتاه.
• بازنویسی متن‌های کوتاه: صمیمانه‌تر، کوتاه‌تر یا رسمی‌تر کردن یک پیام؛ اصلاح گرامر یک پاراگراف.
• پیش‌نویس‌های کوتاه: یک پست شبکه‌های اجتماعی، معرفی کوتاه محصول، پاسخی مؤدبانه یا فهرستی از ایده‌های عنوان.
• دسته‌بندی و استخراج ساده داده‌ها: استخراج نام‌ها و تاریخ‌ها از یک پاراگراف، برچسب‌گذاری بازخوردها به عنوان مثبت یا منفی، و تبدیل یادداشت‌ها به یک فهرست.
• اجرا روی سیستم شخصی: این مدل یکی از ساده‌ترین مدل‌های Llama برای اجرای محلی است. حجم دانلود آن در Ollama حدود ۴.۹ گیگابایت ذکر شده که برای اجرا روی بسیاری از لپ‌تاپ‌ها به اندازه کافی سبک است.

هشت زبان به‌طور رسمی پشتیبانی می‌شوند: انگلیسی، آلمانی، فرانسوی، ایتالیایی، پرتغالی، هندی، اسپانیایی و تایلندی.

نحوه استفاده در چت ما

1. از طریق پیوند زیر چت را باز کنید، یا از منوی مدل‌ها گزینه Llama 3.1 8B را انتخاب نمایید.
2. درخواست‌های خود را کوتاه و دقیق بیان کنید. اگر فرمت خاصی مد نظرتان است، یک نمونه از خروجی دلخواه ارائه دهید.
3. اگر پاسخی سطحی یا نادرست به نظر می‌رسد، آن را با مدلی بزرگ‌تر مانند Llama 3.3 70B یا Maverick مجدداً تولید کنید.

چت با Llama 3.1 8B

استفاده از چت با سهمیه روزانه رایگان است که در حال حاضر ۱۰۰ پیام در روز می‌باشد. پردازش تصاویر نیازمند مدلی از سری Llama 4 است، بنابراین پیوست کردن تصویر به‌طور خودکار چت را روی Maverick تنظیم می‌کند.

محدودیت‌هایی که باید بدانید

• مدل کوچک‌تر، خطاهای بیشتر: با ۸ میلیارد پارامتر، دانش این مدل نسبت به مدل‌های بزرگ‌تر کمتر است و خطاهای اطلاعاتی بیشتری به‌ویژه در موضوعات تخصصی، افراد و ارقام دارد. اطلاعات ارائه‌شده توسط آن را به عنوان نقطه‌ای برای بررسی بیشتر در نظر بگیرید.
• استدلال‌های پیچیده‌تر: محاسبات ریاضی چندمرحله‌ای، منطق‌های دشوار و کدهای طولانی توسط Llama 3.3 70B یا Llama 4 بهتر انجام می‌شوند.
• فقط متنی: این مدل امکان درک تصویر را ندارد.
• دانش قدیمی: اطلاعات آموزشی آن در دسامبر ۲۰۲۳ به پایان می‌رسد و چت ما دسترسی به وب ندارد.
• اسناد طولانی: مدل از ۱۲۸ هزار توکن پشتیبانی می‌کند، اما چت رایگان ما مکالمات طولانی را به جدیدترین بخش‌ها خلاصه می‌کند؛ علاوه بر این، مدل‌های کوچک در متن‌های طولانی بیشتر مستعد نادیده گرفتن جزئیات هستند.

دریافت رسمی Llama 3.1 8B

شرکت Meta وزن‌های مدل را در Hugging Face با نام meta-llama/Llama-3.1-8B-Instruct منتشر کرده است؛ برای دسترسی به فایل‌ها باید مجوز را در صفحه مدل بپذیرید. ساده‌ترین روش اجرای محلی استفاده از Ollama است: آن را نصب کنید و دستور ollama run llama3.1 را اجرا نمایید که به‌طور پیش‌فرض نسخه 8B را دانلود می‌کند. ابزارهای LM Studio و llama.cpp نیز کاربردی هستند؛ به راهنمای اجرای محلی Llama مراجعه کنید.

این مدل از طریق APIهای ابری یکی از ارزان‌ترین گزینه‌های موجود است: OpenRouter هزینه آن را ۰.۰۵ دلار به ازای هر یک میلیون توکن ورودی و ۰.۰۸ دلار به ازای هر یک میلیون توکن خروجی اعلام کرده است (قیمت مصوب OpenRouter، اکتبر ۲۰۲۶)، با پنجره زمینه‌ای برابر با ۱۳۱,۰۷۲ توکن در ارائه‌دهنده سرویس ما. در راهنمای Llama API نحوه فراخوانی آن توضیح داده شده است.

مجوز Llama 3.1 Community License امکان استفاده تجاری را با شرایط مشخصی مجاز می‌داند: رعایت خط‌مشی استفاده مجاز، درج عبارت "Built with Llama" در محصول، آغاز نام مدل‌های بهینه‌سازی‌شده (Fine-tuned) اشتراک‌گذاری‌شده با "Llama"، و دریافت مجوزی جداگانه از Meta در صورتی که کاربران فعال ماهانه محصول شما از ۷۰۰ میلیون نفر فراتر رود. صفحه مجوزها را مشاهده کنید.

نکات مربوط به حریم خصوصی

در چت ما، پیام‌های شما از طریق سرور ما و درگاه هوش مصنوعی به ارائه‌دهنده سرویس پردازش که مدل را اجرا می‌کند ارسال می‌شود. ما متن پیام‌های شما را ذخیره نمی‌کنیم و تاریخچه چت در مرورگر شما باقی می‌ماند. از آنجا که Llama 3.1 8B برای اجرا روی لپ‌تاپ به اندازه کافی سبک است، انتخابی محبوب برای مواقعی به شمار می‌رود که مایلید بدون ارسال اطلاعات از طریق اینترنت پاسخ‌های خود را دریافت کنید.

مقایسه Llama 3.1 8B با سایر مدل‌ها

در مقایسه با Llama 3.3 70B بسیار سریع‌تر و کم‌هزینه‌تر است، اما دانش کمتر و دقت پایین‌تری دارد. در مقایسه با Llama 4 توانایی پردازش تصویر و دسترسی به اطلاعات جدیدتر را ندارد. در مقایسه با مدل‌های بسیار کوچک مانند Llama 3.2 3B توانمندتر است اما به حافظه بیشتری نیاز دارد. اگر مردد هستید، راهنمای ما درباره انتخاب مدل مناسب Llama کارهای مختلف را بررسی می‌کند و در صفحه Llama 3.3 در برابر Llama 4 مدل‌های بزرگ‌تر مقایسه شده‌اند.

پرسش‌های متداول

چرا باید کوچک‌ترین مدل را انتخاب کنم؟

سرعت. برای کارهای کوتاه و ساده، این مدل سریع پاسخ می‌دهد و معمولاً به اندازه کافی خوب است. هر زمان که دقت یا عمق محتوا اهمیت داشت، به مدلی بزرگ‌تر بروید.

آیا می‌توانم Llama 3.1 8B را روی لپ‌تاپ شخصی‌ام اجرا کنم؟

در بیشتر موارد بله. حجم دانلود Ollama حدود ۴.۹ گیگابایت است. بهترین عملکرد را با حافظه رم کافی و تراشه گرافیکی جدید یا تراشه‌های Apple silicon ارائه می‌دهد، اما روی بسیاری از سیستم‌های معمولی نیز با سرعت کمتر اجرا می‌شود.

آیا Llama 3.1 8B همان Llama 3 8B است؟

خیر. مدل Llama 3 8B در آوریل ۲۰۲۴ با پنجره زمینه ۸ هزار توکنی عرضه شد؛ مدل Llama 3.1 8B پس از آن در ژوئیه ۲۰۲۴ با پنجره زمینه ۱۲۸ هزار توکنی و پشتیبانی رسمی از هشت زبان منتشر گردید.

آیا این مدل از وقایع اخیر اطلاع دارد؟

خیر. داده‌های آموزشی آن در دسامبر ۲۰۲۳ به پایان می‌رسد و چت ما نیز قابلیت جستجو در وب را ندارد.