Llama 3.1 8B

Llama 3.1 8B কী এবং এটি কারা তৈরি করেছে

Llama 3.1 8B হলো ২৩ জুলাই, ২০২৪ তারিখে Meta কর্তৃক প্রকাশিত Llama 3.1 রিলিজের সবচেয়ে ছোট মডেল। Meta-র মডেল কার্ড অনুযায়ী, এতে রয়েছে ৮ বিলিয়ন প্যারামিটার, এটি টেক্সট পড়তে ও লিখতে পারে এবং এর কনটেক্সট উইন্ডো ১২৮K টোকেন। এর ট্রেনিং ডেটা শেষ হয়েছে ডিসেম্বর ২০২৩-এ। মডেলের ওয়েটগুলো Llama 3.1 Community License-এর অধীনে ডাউনলোড করা যায়।

Llama 3.1 তিনটি আকারে এসেছিল: 8B, 70B এবং 405B। ৪05B মডেলটি সেই সময়ে Meta-র উন্মুক্ত সবচেয়ে বড় মডেল ছিল, আর 8B সংস্করণটি তৈরি করা হয়েছিল দ্রুত এবং সাশ্রয়ীভাবে চালানোর জন্য। ৩.১ রিলিজে ছোট মডেলগুলোতেও দীর্ঘ ১২৮K কনটেক্সট যুক্ত করা হয় এবং এমন একটি লাইসেন্স দেওয়া হয় যা অন্যান্য মডেল উন্নত করতে (যেমন ট্রেনিং ডেটা তৈরিতে) Llama-র আউটপুট ব্যবহারের স্পষ্ট অনুমতি দেয়।

আমাদের চ্যাটে, Llama 3.1 8B হলো সবচেয়ে দ্রুত এবং হালকা বিকল্প। Llama.Online একটি স্বাধীন প্ল্যাটফর্ম, এটি Meta দ্বারা পরিচালিত নয়; মডেলটি একটি ক্লাউড ইনফারেন্স প্রোভাইডারে চলে এবং আমাদের সাইট কেবল আপনার মেসেজগুলো সেখানে পৌঁছে দেয়।

Llama পরিবারে এর অবস্থান

আমাদের চ্যাটের চারটি মডেলকে একটি মই হিসেবে কল্পনা করতে পারেন। Llama 3.1 8B হলো নিচের সবচেয়ে দ্রুত ও হালকা ধাপ। Llama 3.3 70B অনেক বড় একটি টেক্সট মডেল, যার জ্ঞান ও সূক্ষ্মতা আরও বেশি। Llama 4 Scout এবং Llama 4 Maverick হলো সর্বাধুনিক প্রজন্মের এবং এগুলো ছবিও বিশ্লেষণ করতে পারে। আরও ছোট Llama মডেলও রয়েছে: Llama 3.2 1B এবং 3B ফোন ও ছোট ডিভাইসের জন্য তৈরি করা হয়েছিল, তবে সেগুলো আমাদের চ্যাটে নেই। সম্পূর্ণ সময়রেখা দেখতে পাবেন Llama history পৃষ্ঠায়।

Llama 3.1 8B কোন কোন কাজে দক্ষ

• দ্রুত উত্তর পেতে। সংজ্ঞা, সহজ ব্যাখ্যা, ইউনিট রূপান্তর এবং সংক্ষিপ্ত "কীভাবে করবেন" ধরণের প্রশ্ন।
• ছোট টেক্সট নতুন করে লিখতে। কোনো মেসেজকে আরও আন্তরিক, সংক্ষিপ্ত বা প্রাতিষ্ঠানিক রূপ দিতে; অনুচ্ছেদের ব্যাকরণ ঠিক করতে।
• সংক্ষিপ্ত খসড়া তৈরি করতে। সোশ্যাল মিডিয়া পোস্ট, পণ্যের বিবরণ, মার্জিত উত্তর বা শিরোনামের ধারণার তালিকা।
• সহজ বাছাই ও তথ্য উদ্ধারে। একটি অনুচ্ছেদ থেকে নাম ও তারিখ বের করতে, প্রতিক্রিয়া ইতিবাচক নাকি নেতিবাচক তা চিহ্নিত করতে, নোট থেকে তালিকা তৈরি করতে।
• নিজের কম্পিউটারে চালাতে। লোকালি চালানোর জন্য এটি সবচেয়ে সহজ Llama মডেলগুলোর একটি। Ollama-তে এর ডাউনলোডের আকার ৪.৯ জিবি, যা অনেক ল্যাপটপের জন্যই যথেষ্ট উপযোগী।

এতে আনুষ্ঠানিকভাবে আটটি ভাষা সমর্থিত: ইংরেজি, জার্মান, ফরাসি, ইতালীয়, পর্তুগিজ, হিন্দি, স্প্যানিশ এবং থাই।

আমাদের চ্যাটে এটি কীভাবে ব্যবহার করবেন

1. নিচের লিঙ্কের মাধ্যমে চ্যাট খুলুন, অথবা মডেল মেনু থেকে Llama 3.1 8B বেছে নিন।
2. অনুরোধগুলো সংক্ষিপ্ত ও নির্দিষ্ট রাখুন। আউটপুটের ফরম্যাট গুরুত্বপূর্ণ হলে একটি উদাহরণ দিন।
3. কোনো উত্তর অগভীর বা ভুল মনে হলে, Llama 3.3 70B বা Maverick-এর মতো বড় কোনো মডেল দিয়ে সেটি পুনরায় তৈরি (regenerate) করুন।

Llama 3.1 8B-এর সাথে চ্যাট করুন

প্রতিদিনের একটি নির্দিষ্ট সীমা পর্যন্ত চ্যাট সম্পূর্ণ বিনামূল্যে ব্যবহার করা যায়, যা বর্তমানে প্রতিদিন ১০০টি মেসেজ। ছবি বিশ্লেষণের জন্য Llama 4 মডেল প্রয়োজন, তাই ছবি যুক্ত করলে চ্যাটটি স্বয়ংক্রিয়ভাবে Maverick-এ পরিবর্তিত হবে।

যে সীমাবদ্ধতাগুলো জানা দরকার

• ছোট মডেল, ভুলের সম্ভাবনা বেশি। ৮ বিলিয়ন প্যারামিটার থাকায় এটি বড় মডেলগুলোর চেয়ে কম জানে এবং তথ্যে ভুল করার প্রবণতা বেশি থাকে, বিশেষ করে অপ্রচলিত বিষয়, ব্যক্তি ও সংখ্যার ক্ষেত্রে। এর দেওয়া তথ্যগুলোকে যাচাইয়ের প্রাথমিক ধাপ হিসেবে বিবেচনা করুন।
• জটিল যুক্তি বিশ্লেষণ। একাধিক ধাপের গণিত, কঠিন যুক্তি ও দীর্ঘ কোডিংয়ের কাজের জন্য Llama 3.3 70B বা Llama 4 বেশি উপযোগী।
• শুধুমাত্র টেক্সট। এটি ছবি পড়তে বা বুঝতে পারে না।
• পুরোনো তথ্য। এর ট্রেনিং ডেটা শেষ হয়েছে ডিসেম্বর ২০২৩-এ, এবং আমাদের চ্যাটে কোনো ওয়েব অ্যাক্সেস নেই।
• দীর্ঘ ডকুমেন্ট। মডেলটি ১২৮K টোকেন সমর্থন করলেও, আমাদের ফ্রি চ্যাটে দীর্ঘ কথোপকথন কেটে সাম্প্রতিক অংশে সীমাবদ্ধ রাখা হয়; তাছাড়া ছোট মডেলগুলোর দীর্ঘ টেক্সট থেকে খুঁটিনাটি তথ্য মিস করার সম্ভাবনা বেশি থাকে।

Llama 3.1 8B আনুষ্ঠানিকভাবে যেভাবে পাবেন

Meta এর ওয়েটগুলো Hugging Face-এ meta-llama/Llama-3.1-8B-Instruct হিসেবে প্রকাশ করেছে; ফাইলগুলো আনলক করতে মডেল পেজে লাইসেন্স গ্রহণ করুন। লোকালি চালানোর সবচেয়ে সহজ উপায় হলো Ollama: এটি ইনস্টল করে ollama run llama3.1 চালান, যা ডিফল্টভাবে 8B সংস্করণটি ডাউনলোড করে। LM Studio এবং llama.cpp-ও ব্যবহার করা যায়; বিস্তারিত দেখুন run Llama locally পৃষ্ঠায়।

ক্লাউড API-এর ক্ষেত্রে এটি অন্যতম সাশ্রয়ী মডেল: OpenRouter-এ এর খরচ প্রতি মিলিয়ন ইনপুট টোকেনে $০.০৫ এবং প্রতি মিলিয়ন আউটপুট টোকেনে $০.০৮ (OpenRouter-এর তালিকাভুক্ত মূল্য, অক্টোবর ২০২৬), এবং আমাদের প্রোভাইডারে এর কনটেক্সট উইন্ডো ১৩১,০৭২ টোকেন। এটি কীভাবে কল করতে হয় তা জানতে আমাদের Llama API guide দেখুন।

Llama 3.1 Community License কিছু শর্তসাপেক্ষে বাণিজ্যিক ব্যবহারের অনুমতি দেয়: নীতিমালার শর্ত মেনে চলুন, আপনার পণ্যে "Built with Llama" প্রদর্শন করুন, আপনার শেয়ার করা ফাইন-টিউনড মডেলের নামের শুরুতে "Llama" রাখুন এবং আপনার পণ্যের মাসিক সক্রিয় ব্যবহারকারী ৭০ কোটির বেশি হলে Meta-র কাছ থেকে আলাদা লাইসেন্স নিন। বিস্তারিত দেখুন আমাদের license page-এ।

গোপনীয়তা সংক্রান্ত তথ্য

আমাদের চ্যাটে আপনার মেসেজগুলো সার্ভার এবং AI গেটওয়ের মাধ্যমে মডেল পরিচালনাকারী ইনফারেন্স প্রোভাইডারের কাছে যায়। আমরা আপনার মেসেজের টেক্সট সংরক্ষণ করি না, এবং আপনার চ্যাট হিস্ট্রি আপনার ব্রাউজারেই থাকে। Llama 3.1 8B ল্যাপটপে চালানোর মতো যথেষ্ট ছোট হওয়ায়, ইন্টারনেটে কোনো ডেটা না পাঠিয়ে উত্তর পেতে চাইলে এটি একটি জনপ্রিয় বিকল্প।

তুলনামূলক বিশ্লেষণ

Llama 3.3 70B-এর তুলনায় এটি অনেক দ্রুত ও সাশ্রয়ী, তবে তুলনামূলক কম তথ্যবহুল ও কম সতর্ক। Llama 4-এর তুলনায় এতে ছবি বিশ্লেষণের ক্ষমতা ও নতুন তথ্যের ঘাটতি রয়েছে। আবার Llama 3.2 3B-এর মতো ক্ষুদ্র মডেলগুলোর তুলনায় এটি বেশি সক্ষম হলেও এর জন্য বেশি মেমোরি প্রয়োজন। কোনটি বেছে নেবেন তা নিশ্চিত না হলে, choosing the right Llama model গাইডটি দেখতে পারেন, এবং বড় মডেলগুলোর তুলনা দেখতে পারেন Llama 3.3 vs Llama 4-এ।

সাধারণ জিজ্ঞাসা (FAQ)

সবচেয়ে ছোট মডেলটি আমি কেন বেছে নেব?

গতির জন্য। ছোট ও সহজ কাজের জন্য এটি খুব দ্রুত উত্তর দেয় এবং সাধারণত তা যথেষ্ট কার্যকর হয়। তবে নির্ভুলতা বা গভীর বিশ্লেষণের প্রয়োজন হলে বড় মডেলে স্যুইচ করুন।

আমি কি আমার ল্যাপটপে Llama 3.1 8B চালাতে পারি?

অধিকাংশ ক্ষেত্রে হ্যাঁ। Ollama ডাউনলোডের সাইজ প্রায় ৪.৯ জিবি। পর্যাপ্ত ফ্রি মেমোরি এবং সাম্প্রতিক গ্রাফিক্স চিপ বা Apple silicon থাকলে এটি সবচেয়ে ভালো চলে, তবে সাধারণ অনেক কম্পিউটারেও এটি চালানো যায় (কিছুটা ধীরগতিতে)।

Llama 3.1 8B এবং Llama 3 8B কি একই?

না। Llama 3 8B এসেছিল এপ্রিল ২০২৪-এ ৮K কনটেক্সট উইন্ডো নিয়ে; এরপর জুলাই ২০২৪-এ Llama 3.1 8B আসে ১২৮K কনটেক্সট উইন্ডো এবং আনুষ্ঠানিকভাবে আটটি ভাষার সমর্থন নিয়ে।

এটি কি সাম্প্রতিক ঘটনা সম্পর্কে জানে?

না। এর ট্রেনিং ডেটা শেষ হয়েছে ডিসেম্বর ২০২৩-এ, এবং আমাদের চ্যাট ওয়েবে সার্চ করতে পারে না।