كيفية تشغيل Llama محلياً

لماذا تشغّل Llama على جهازك الخاص؟

تنشر Meta أوزان نماذج Llama مجاناً، لذا وعلى عكس روبوتات الدردشة المغلقة، يمكنك تنزيل أي نموذج Llama وتشغيله مباشرة على جهازك. بمجرد تنزيله، سيعمل دون اتصال بالإنترنت، ولن تغادر بياناتك جهازك أبداً، ودون أي قيود على الرسائل أو فواتير مقابل الرموز (tokens). التحدي الوحيد هو العتاد: تحتاج النماذج الأكبر إلى قدر كبير من الذاكرة، وستكون استجابة الكمبيوتر المحمول أبطأ مقارنة بالخوادم السحابية.

يغطي هذا الدليل الأدوات الثلاث الأكثر استخداماً، من الأسهل إلى الأكثر تقدماً: Ollama وLM Studio وllama.cpp. وإذا أردت تجربة Llama فقط دون تثبيت أي شيء، يمكنك استخدام دردشة Llama المجانية لدينا مباشرة.

اختر النموذج المناسب لمواصفات جهازك

القرار الأهم هو اختيار حجم النموذج. القاعدة العامة: تحتاج إلى ذاكرة فارغة (ذاكرة كارت الشاشة VRAM، أو الذاكرة الموحدة في أجهزة Apple Silicon) تعادل على الأقل حجم ملف النموذج، بالإضافة إلى مساحة إضافية لسياق المحادثة. إذا لم تكن الذاكرة كافية، فلن يتم تحميل النموذج أو سيعمل ببطء شديد عبر الذاكرة العادية للجهاز.

فيما يلي أحجام التنزيل التي يعرضها تطبيق Ollama للإصدارات الافتراضية لكل نموذج Llama. وهي ملفات مضغوطة (مُكمّمة - quantized)، وهي الطريقة الشائعة لتشغيل النماذج على الأجهزة الشخصية.

إذا كنت متردداً، ابدأ مع Llama 3.1 8B؛ فحجمه مناسب للعديد من الحواسيب المحمولة الحديثة وإمكانياته ممتازة. وتوضح بطاقة نموذج Llama 4 Scout من Meta أنه يعمل على بطاقة H100 واحدة في مراكز البيانات بنظام تكميم Int4، ما يعطيك فكرة عن حجم وقوة سلسلة Llama 4.

الخيار 1: Ollama (الخيار الأسهل)

تطبيق Ollama يتيح لك تنزيل النماذج وتشغيلها بأمر واحد والاحتفاظ بها جاهزة للاستخدام في أي وقت.

1. قم بتثبيت Ollama من موقعه الرسمي.
2. افتح شاشة الأوامر (Terminal) واكتب ollama run llama3.1. سيتكفل الأمر بتنزيل النموذج في المرة الأولى، وبعدها سيعمل خلال ثوانٍ.
3. اكتب سؤالك واضغط Enter.

تعمل نماذج Llama الأخرى بنفس الطريقة، مثل ollama run llama3.2 أو ollama run llama4:scout. كما تعرض صفحات مكتبة Ollama المخصصة لكل من Llama 3.1 وLlama 3.2 وLlama 4 جميع الأحجام المتاحة. وفي صفحة Llama 4، يوضح Ollama أن Scout يأتي بنافذة سياق تصل إلى 10M وMaverick بـ 1M، وكلاهما يدعم النصوص والصور.

يشغّل Ollama أيضاً خادماً محلياً، ما يسمح للبرمجيات الخاصة بك باستخدام النموذج. يبدو طلب الدردشة البرمجي هكذا:

curl http://localhost:11434/api/chat -d '{
  "model": "llama3.1",
  "messages": [{"role": "user", "content": "اشرح مفهوم العودية (recursion) في جملتين."}]
}'

الخيار 2: LM Studio (تطبيق لسطح المكتب)

برنامج LM Studio هو تطبيق مجاني للكمبيوتر بواجهة دردشة جاهزة، مما يغنيك تماماً عن شاشة الأوامر.

1. نزّل LM Studio لنظام تشغيلك وافتحه.
2. انتقل إلى تبويب Discover، وابحث عن "Llama" ونزّل الإصدار المتوافق مع حجم ذاكرة جهازك.
3. افتح تبويب Chat، واختر النموذج من القائمة العلوية، وابدأ المحادثة مباشرة.

يمكن لـ LM Studio أيضاً العمل كخادم محلي متوافق تماماً مع صيغة واجهة برمجة تطبيقات OpenAI، ويعمل افتراضياً على العنوان http://localhost:1234/v1. يمكن للعديد من الأدوات والبرمجيات الاتصال بهذا العنوان المحلي بدلاً من الخدمة السحابية. اطلع على دليل البدء في LM Studio وتوثيق خادم OpenAI المتوافق.

الخيار 3: llama.cpp (تحكّم كامل بأدق التفاصيل)

مشروع llama.cpp هو المحرك المفتوح المصدر الذي تعتمد عليه معظم أدوات الذكاء الاصطناعي المحلية. يمنحك استخدامه مباشرة أقصى درجات التحكم في إعدادات الأداء؛ إذ يشغّل النماذج بصيغة ملفات GGUF، ويدعم تقنيات تكميم تتراوح بين 1.5-bit و8-bit لتصغير أحجام الملفات، كما صُمم ليعمل بكفاءة فائقة على أجهزة Apple Silicon.

1. قم بتثبيته. يوفر ملف README الخاص بالمشروع أمراً سهلاً للتثبيت: curl -LsSf https://llama.app/install.sh | sh لأنظمة macOS وLinux، أو irm https://llama.app/install.ps1 | iex عبر Windows PowerShell.
2. ابدأ الدردشة في شاشة الأوامر عبر تحميل نموذج GGUF من Hugging Face: llama cli -hf <user>/<repo>.
3. أو شغّل خادماً محلياً متوافقاً مع OpenAI: llama serve -hf <user>/<repo>.

استبدل النص المؤقت بالمسار المناسب لمستودع Hugging Face الذي يحتوي على نسخة GGUF من نموذج Llama الذي تريده. واحرص على قراءة وصف المستودع لمعرفة نوع التكميم المستخدم في كل ملف؛ فالملفات الأصغر حجماً تستهلك ذاكرة أقل ولكنها قد تفقد جزءاً بسيطاً من دقتها.

الخيار 4: تحميل الأوزان الأصلية من Meta

يمكن للمطورين الراغبين بالحصول على الأوزان الكاملة بدقتها الأصلية تنزيلها من صفحات Meta على منصة Hugging Face، مثل Llama 3.1 8B Instruct أو Llama 4 Scout. هذه المستودعات تتطلب موافقة: يجب تسجيل الدخول وقبول شروط الترخيص في صفحة النموذج ليتاح التنزيل. وتتضمن بطاقات النماذج نماذج برمجية لمكتبة Hugging Face Transformers. تذكر أن الأوزان الكاملة تحتاج ذاكرة هائلة مقارنة بالنسخ المُكمّمة، لذا يُنصح بهذا الخيار للخوادم وعمليات الضبط الدقيق (Fine-tuning).

نصائح لبداية سلسة

• ابدأ بنموذج صغير. جرّب أولاً نموذج 8B أو 3B، ولا تنتقل إلى الأحجام الأكبر إلا إذا كانت الإجابات غير كافية وكان عتاد جهازك قادراً على التعامل معها.
• أغلق التطبيقات الثقيلة. المتصفحات التي تحتوي على العديد من التبويبات المفتوحة والألعاب تستهلك الذاكرة نفسها التي يحتاجها النموذج.
• حافظ على قِصر سياق المحادثة. المحادثات الطويلة للغاية تستهلك المزيد من الذاكرة وتبطئ الاستجابة. افتح محادثة جديدة عند بدء موضوع جديد.
• استخدم التوجيهات الأساسية (System Prompt). تحديد دور النموذج وأسلوب الإجابة المفضل يساعد النماذج الصغيرة بشكل ملحوظ. يمكنك استلهام الأفكار من مكتبة التوجيهات لدينا.
• انتبه لشروط الترخيص. استخدام النموذج لأغراضك الشخصية أمر بسيط ومتاح، ولكن إذا كنت تبني منتجاً تجارياً، فاطلع على دليل ترخيص Llama.
• توقع معلومات غير محدثة. النماذج المحلية لا تبحث في الويب؛ حيث تتوقف معلومات Llama 3.x عند ديسمبر 2023 ونماذج Llama 4 عند أغسطس 2024.

محلياً أم أونلاين: أيهما تختار؟

شغّل Llama محلياً إذا كانت الخصوصية، أو العمل دون إنترنت، أو الاستخدام اليومي المكثف أولويتك، وتوفر لديك العتاد المناسب. واستخدم الدردشة أونلاين لتجربة نماذج Llama 4 الضخمة دون الحاجة لحاسوب قوي، أو لتجربة قدرات Llama AI بسرعة. يمكنك أيضاً دمج Llama برمجياً عبر موفري الخدمات السحابية؛ وهو ما نوضحه بالتفصيل في دليل واجهة برمجة تطبيقات Llama API.

جرّب Llama 4 Maverick أونلاين أولاً

الأسئلة الشائعة

هل يمكنني تشغيل Llama بدون كارت شاشة خارجي؟

نعم، النماذج الصغيرة مثل Llama 3.2 3B وLlama 3.1 8B تعمل على المعالج المركزي المعتاد (CPU)، لكنها ستكون أبطأ. أما النماذج الكبيرة فلا يُنصح بها إطلاقاً دون كارت GPU قوي أو ذاكرة موحدة كبيرة.

هل تشغيل Llama محلياً مجاني؟

نعم، جميع البرامج المذكورة أعلاه وأوزان Llama مجانية تماماً للتنزيل، ولن تدفع سوى تكلفة جهازك واستهلاك الكهرباء.

هل تستطيع نماذج Llama المحلية معالجة الصور؟

يدعم كل من Llama 4 Scout وMaverick استقبال الصور، وكذلك نماذج Llama 3.2 Vision. بينما تقتصر نماذج النصوص 1B و3B و8B على النصوص فقط.

ما هي أفضل أداة للمبتدئين؟

برنامج LM Studio هو الأفضل إذا كنت تفضل واجهة رسومية سهلة لسطح المكتب، وتطبيق Ollama إذا كنت تفضل كتابة أمر بسيط في شاشة الأوامر.