Llama API: কোড থেকে Llama ব্যবহার করার উপায়

Meta জুলাই ২০২৬-এ তাদের নিজস্ব হোস্টেড Llama API বন্ধ করেছে, তবে কোড থেকে Llama ব্যবহার করা এখনও বেশ সহজ। OpenRouter বা নিজস্ব লোকাল সার্ভারের মাধ্যমে এটি ব্যবহারের নিয়ম জানুন।

5 মিনিটে পড়া যাবেআপডেট করা হয়েছে অক্টো ২০২৬

সংক্ষেপে উত্তর

২০২৬ সালে আপনার নিজস্ব কোড থেকে Llama ব্যবহার করতে দুটি কার্যকর উপায় রয়েছে: Llama মডেল হোস্ট করে এমন কোনো ক্লাউড প্রোভাইডারের মাধ্যমে কল করা, অথবা মডেলটি নিজে চালিয়ে একটি লোকাল সার্ভার ব্যবহার করা। Meta নিজে Llama-এর জন্য আর কোনো হোস্টেড API অফার করে না। এই গাইডে কী কী পরিবর্তন এসেছে তা ব্যাখ্যা করা হয়েছে এবং এরপর OpenRouter ব্যবহার করে কার্যকর উদাহরণ দেখানো হয়েছে—এটি এমন একটি সার্ভিস যা Llama 4 Maverick এবং Scout সহ অনেক মডেলের জন্য একটি মাত্র API প্রদান করে।

Llama.Online কোনো পাবলিক API অফার করে না। আমাদের ফ্রি চ্যাট ব্রাউজারে সাধারণ ব্যবহারকারীদের জন্য। অ্যাপ ও স্ক্রিপ্টের ক্ষেত্রে নিচের যেকোনো একটি বিকল্প ব্যবহার করুন।

Meta-র Llama API-এর কী হলো?

Llama 4 লঞ্চের পর, Meta ডেভেলপারদের জন্য পাবলিক প্রিভিউ হিসেবে একটি হোস্টেড Llama API চালু করেছিল। Meta ২০২৬ সালের ৬ জুলাই সেই প্রিভিউ বন্ধ করে দেয়। Meta-র নতুন ডেভেলপার অফার, Meta Model API, Meta-র Muse মডেলগুলো (যেমন Muse Wonder) সার্ভ করে, Llama নয়। Meta-র নিজস্ব হেল্প পেজে এটি স্পষ্টভাবে বলা হয়েছে: "মডেল API-এর মাধ্যমে আপনার জন্য Llama মডেল চালানো হয় না।" অন্য কথায়, Llama এখন এমন একটি মডেল যা আপনাকে ডাউনলোড করে চালাতে হবে, অথবা অন্য প্রোভাইডারের মাধ্যমে ব্যবহার করতে হবে। দেখুন Llama এবং Model API সম্পর্কিত Meta-র নোট।

Muse মডেলগুলো আমাদের চ্যাটে উপলব্ধ নেই এবং এগুলোর প্রাইসিং এই পেজের আওতাভুক্ত নয়। এই গাইডের বাকি অংশ Llama নিয়েই।

আপনার বিকল্পগুলো এক নজরে

OpenRouter-এর মতো একটি মডেল রাউটার। একটি API key, একটি OpenAI-স্টাইলের এন্ডপয়েন্ট এবং একাধিক মডেল। Llama-র বিভিন্ন ভার্সন পরীক্ষা করা এবং সেগুলোর মধ্যে স্যুইচ করার জন্য এটি দারুণ।
সরাসরি Llama হোস্ট করে এমন একটি ক্লাউড প্রোভাইডার। অনেক ইনফারেন্স কোম্পানি এবং বড় ক্লাউড প্ল্যাটফর্ম Llama মডেল অফার করে। বেছে নেওয়ার আগে দাম, রেট লিমিট এবং ডেটা পলিসি যাচাই করে নিন।
আপনার নিজস্ব সার্ভার বা কম্পিউটার। LM Studio, Ollama বা llama.cpp দিয়ে Llama চালান এবং একটি লোকাল, OpenAI-সামঞ্জস্যপূর্ণ API-এর মাধ্যমে এটি কল করুন। কোনো টোকেন প্রতি খরচ নেই, ডেটার ওপর সম্পূর্ণ নিয়ন্ত্রণ থাকে। দেখুন লোকালি Llama চালান।

OpenRouter-এর মাধ্যমে Llama কল করা

OpenRouter-এর API মূলত OpenAI-এর চ্যাট কমপ্লিশন API-এর ফরম্যাট অনুসরণ করে, তাই বেস অ্যাড্রেস এবং মডেলের নাম পরিবর্তন করলেই বেশিরভাগ বিদ্যমান কোড এবং লাইব্রেরি কাজ করে। OpenRouter-এ একটি অ্যাকাউন্ট ও API key তৈরি করুন, কি-টি OPENROUTER_API_KEY নামের এনভায়রনমেন্ট ভ্যারিয়েবলে সংরক্ষণ করুন এবং এটি কখনোই ক্লায়েন্ট-সাইড কোডে রাখবেন না। বিস্তারিত ধাপগুলো রয়েছে OpenRouter কুইকস্টার্টে।

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "ওপেন-ওয়েট মডেল নিয়ে একটি হাইকু লেখো।"}
    ]
  }'

OpenAI SDK সহ Python

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "তিনটি পয়েন্টে Llama লাইসেন্সের সারসংক্ষেপ দাও।"}],
)
print(response.choices[0].message.content)

fetch সহ JavaScript

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "একটি বেকারির জন্য তিনটি নাম প্রস্তাব করো।" }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

এই ধরনের JavaScript ওয়েব পেজে নয়, সার্ভারে চালান, যাতে আপনার কি-টি গোপন থাকে। আপনি যদি চান উত্তরটি শব্দে শব্দে আসুক, তবে স্ট্রিমিং সুবিধাও রয়েছে।

Llama 4-এ ইমেজ পাঠানো

Llama 4 Maverick এবং Scout ইমেজ গ্রহণ করতে পারে। OpenAI-স্টাইলের ফরম্যাটে মেসেজের কনটেন্ট একটি লিস্টে পরিণত হয়, যেখানে একটি টেক্সট পার্ট এবং একটি ইমেজ পার্ট থাকে:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "এই ছবিতে কী আছে?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B এবং Llama 3.1 8B কেবল টেক্সটের জন্য, তাই ছবি পাঠাতে Llama 4 মডেল ব্যবহার করুন।

Llama মডেলের নাম এবং প্রাইসিং

নিচে OpenRouter-এর তালিকাভুক্ত Llama মডেলগুলোর নাম, কনটেক্সট উইন্ডো এবং প্রতি মিলিয়ন টোকেনের খরচ দেওয়া হলো। সব মূল্য OpenRouter-এর অক্টোবর ২০২৬-এর তালিকা অনুযায়ী; এগুলো পরিবর্তিত হতে পারে, তাই বাজেট চূড়ান্ত করার আগে যাচাই করে নিন।

মডেল	API-তে মডেলের নাম	কনটেক্সট (টোকেন)	প্রতি ১M টোকেনে ইনপুট / আউটপুট
Llama 4 Maverick	`meta-llama/llama-4-maverick`	৫২৪,২৮৮	$০.১৮৭৫ / $০.৬৫২৫
Llama 4 Scout	`meta-llama/llama-4-scout`	১,৩১০,৭২০	$০.১০ / $০.৩০
Llama 3.3 70B	`meta-llama/llama-3.3-70b-instruct`	১৩১,০৭২	$০.১০ / $০.৩২
Llama 3.1 70B	`meta-llama/llama-3.1-70b-instruct`	১৩১,০৭২	$০.৪০ / $০.৪০
Llama 3.1 8B	`meta-llama/llama-3.1-8b-instruct`	১৩১,০৭২	$০.০৫ / $০.০৮
Llama 3.2 3B	`meta-llama/llama-3.2-3b-instruct`	১৩১,০৭২	$০.০৫০৯ / $০.৩৩৫
Llama 3.2 1B	`meta-llama/llama-3.2-1b-instruct`	৬০,০০০	$০.০২৭ / $০.২০১
Llama Guard 4 12B	`meta-llama/llama-guard-4-12b`	১৬৩,৮৪০	$০.১৮ / $০.১৮

মনে রাখবেন, এখানকার কনটেক্সট উইন্ডোগুলো OpenRouter-এর প্রোভাইডাররা যা সার্ভ করে তা অনুযায়ী দেওয়া, যা Meta-র মডেল কার্ডের বিবরণের চেয়ে কম হতে পারে। Meta-র তালিকায় Scout-এর জন্য ১০ মিলিয়ন টোকেন এবং Maverick-এর জন্য ১ মিলিয়ন উল্লেখ রয়েছে।

API হিসেবে লোকাল Llama ব্যবহার

আপনি নিজে Llama চালালে একই কোড দিয়ে নিজের মেশিনে কল করতে পারেন। LM Studio-র সার্ভার বেস অ্যাড্রেস হিসেবে http://localhost:1234/v1 ব্যবহার করে এবং llama.cpp-এর llama serve কমান্ডটিও একটি OpenAI-সামঞ্জস্যপূর্ণ সার্ভার চালু করে; দেখুন LM Studio সার্ভার ডক্স এবং llama.cpp README। Ollama-র নিজস্ব API রয়েছে http://localhost:11434/api/chat-এ। OpenRouter-এর নামের বদলে আপনার লোকাল টুলে প্রদর্শিত মডেলের নামটি ব্যবহার করুন।

Llama দিয়ে কাজ করার কিছু টিপস

সাধারণ কাজ এবং ইমেজের জন্য Maverick বা Scout দিয়ে শুরু করুন, আর গভীরতার চেয়ে গতি ও খরচ যেখানে বেশি গুরুত্বপূর্ণ সেখানে Llama 3.1 8B পরখ করে দেখুন।
আপনার প্রয়োজনীয় রোল, টোন এবং আউটপুট ফরম্যাট উল্লেখ করে একটি সিস্টেম প্রম্পট সেট করুন।
পাবলিক অ্যাপ্লিকেশনের জন্য একটি সেফটি লেয়ার যোগ করুন। প্রম্পট এবং উত্তর ক্লাসিফাই করতে Llama Guard 4 ব্যবহার করা যেতে পারে।
লাইসেন্স মেনে চলুন। Llama দিয়ে তৈরি প্রোডাক্টে অবশ্যই "Built with Llama" প্রদর্শন করতে হবে এবং Meta-র গ্রহণযোগ্য ব্যবহার নীতি মেনে চলতে হবে। আমাদের লাইসেন্স গাইড পড়ুন।
নলেজ কাট-অফের বিষয়টি মাথায় রাখুন। Llama 4 আগস্ট ২০২৪ পর্যন্ত ঘটনাগুলো জানে; প্রয়োজন অনুযায়ী প্রম্পটেই মডেলটিকে নতুন তথ্য দিন।

সাধারণ কিছু সমস্যা

Authorization ত্রুটি সাধারণত ঘটে যদি কি অনুপস্থিত থাকে, টাইপো হয় বা কোড যে এনভায়রনমেন্টে চলছে সেখানে লোড না হয়।
"Model not found" সাধারণত মডেলের নামের বানান ভুলের কারণে ঘটে। meta-llama/ প্রিফিক্স সহ উপরের টেবিল থেকে নামটি হুবহু কপি করুন।
ইমেজ অগ্রাহ্য বা বাতিল হওয়া ঘটে যখন টেক্সট-অনলি মডেলে ছবি পাঠানো হয়। Maverick বা Scout ব্যবহার করুন।
উত্তর অসমাপ্ত থাকা মানে আউটপুট লিমিট শেষ হয়ে গেছে। ছোট উত্তরের অনুরোধ করুন অথবা ম্যাক্সিমাম টোকেন সেটিং বাড়িয়ে দিন।

সাধারণ জিজ্ঞাসা (FAQ)

Meta কি এখনো কোনো Llama API অফার করে?

না। Meta ২০২৬ সালের ৬ জুলাই তাদের হোস্টেড Llama API প্রিভিউ বন্ধ করে দিয়েছে। তাদের Meta Model API কেবল Muse মডেল সার্ভ করে, Llama নয়।

কোনো ফ্রি Llama API আছে কি?

লোকালি Llama চালালে টোকেন প্রতি কোনো খরচ নেই। হোস্টেড API-গুলোতে টোকেন অনুযায়ী চার্জ করা হয়, তবে Llama 3.1 8B-এর মতো ছোট মডেলগুলোর খরচ খুবই কম।

Llama.Online-এর কি নিজস্ব API আছে?

না। Llama.Online কেবল ব্রাউজারে চ্যাট করার জন্য। কোডিংয়ের ক্ষেত্রে ক্লাউড প্রোভাইডার বা লোকাল সার্ভার ব্যবহার করুন।

আমি কি Llama-র সাথে OpenAI SDK ব্যবহার করতে পারি?

হ্যাঁ। SDK-টিকে OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টে (যেমন OpenRouter বা লোকাল LM Studio সার্ভার) নির্দেশ করুন এবং একটি Llama মডেলের নাম ব্যবহার করুন।

Llama-কে আপনার প্রথম প্রশ্নটি করুন

কোনো অ্যাকাউন্ট বা ইনস্টলেশনের ঝামেলা নেই। চ্যাট ওপেন করুন, মেসেজ লিখুন এবং দেখুন Llama কী করতে পারে।

Llama চ্যাট খুলুন