Llama API: Cách tích hợp Llama vào ứng dụng của bạn

Câu trả lời ngắn gọn

Để dùng Llama từ mã nguồn của bạn vào năm 2026, bạn có hai hướng đi thực tế: gọi qua một nhà cung cấp đám mây lưu trữ các mô hình Llama, hoặc tự chạy mô hình và sử dụng một máy chủ cục bộ. Bản thân Meta không còn cung cấp API đám mây cho Llama nữa. Hướng dẫn này sẽ giải thích những thay đổi gần đây, sau đó đưa ra các ví dụ hoạt động thực tế với OpenRouter — dịch vụ cung cấp một API duy nhất cho nhiều mô hình, bao gồm Llama 4 Maverick và Scout.

Chuyện gì đã xảy ra với Meta Llama API

Sau khi ra mắt Llama 4, Meta từng vận hành một bản xem trước công khai của Llama API đám mây dành cho nhà phát triển. Meta đã đóng bản xem trước này vào ngày 6 tháng 7 năm 2026. Dịch vụ mới hơn dành cho nhà phát triển của Meta, Meta Model API, hiện phân phối các mô hình Muse như Muse Wonder, chứ không phải Llama. Trang trợ giúp của Meta nêu rõ: "Các mô hình Llama không được chạy cho bạn thông qua Model API." Nói cách khác, giờ đây bạn cần tải Llama về để tự chạy, hoặc sử dụng thông qua các nhà cung cấp khác. Xem ghi chú của Meta về Llama và Model API.

Các mô hình Muse không có sẵn trên giao diện chat của chúng tôi, và giá của chúng cũng nằm ngoài phạm vi trang này. Phần còn lại của hướng dẫn sẽ tập trung vào Llama.

Tổng quan các lựa chọn của bạn

• Dịch vụ điều phối mô hình như OpenRouter. Một API key duy nhất, một endpoint chuẩn OpenAI, dùng được nhiều mô hình. Rất tiện để thử nghiệm và chuyển đổi qua lại giữa các phiên bản Llama.
• Nhà cung cấp đám mây lưu trữ trực tiếp Llama. Nhiều công ty cung cấp dịch vụ suy luận (inference) và các nền tảng đám mây lớn có sẵn các mô hình Llama. Hãy so sánh giá, giới hạn tốc độ (rate limits) và chính sách dữ liệu trước khi chọn.
• Máy chủ hoặc máy tính của chính bạn. Chạy Llama bằng LM Studio, Ollama hoặc llama.cpp rồi gọi qua API cục bộ tương thích với OpenAI. Không tốn chi phí token, toàn quyền kiểm soát dữ liệu. Xem hướng dẫn chạy Llama cục bộ.

Gọi Llama qua OpenRouter

API của OpenRouter dùng chung định dạng với API chat completions của OpenAI, vì vậy hầu hết mã nguồn và thư viện hiện có đều hoạt động bình thường chỉ bằng cách đổi địa chỉ gốc (base URL) và tên mô hình. Hãy tạo tài khoản và lấy API key trên OpenRouter, lưu key vào biến môi trường có tên OPENROUTER_API_KEY, và không bao giờ để lộ key ở mã nguồn phía client. Xem các bước tại hướng dẫn nhanh của OpenRouter.

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "Hãy viết một bài thơ haiku về các mô hình trọng số mở."}
    ]
  }'

Python (dùng OpenAI SDK)

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "Tóm tắt giấy phép Llama trong ba gạch đầu dòng."}],
)
print(response.choices[0].message.content)

JavaScript (dùng fetch)

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "Gợi ý cho tôi ba cái tên cho tiệm bánh." }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

Hãy chạy đoạn mã JavaScript này trên máy chủ, không chạy trực tiếp trên trang web, để giữ an toàn cho key. API cũng hỗ trợ truyền dữ liệu theo luồng (streaming) nếu bạn muốn câu trả lời hiển thị từng chữ một.

Gửi hình ảnh cho Llama 4

Llama 4 Maverick và Scout đều hỗ trợ xử lý hình ảnh. Theo chuẩn định dạng của OpenAI, nội dung tin nhắn sẽ là một danh sách chứa phần văn bản và phần hình ảnh:

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "Có gì trong bức ảnh này?"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B và Llama 3.1 8B chỉ xử lý được văn bản, vì vậy hãy gửi ảnh cho mô hình Llama 4.

Tên mô hình Llama và bảng giá

Dưới đây là các mô hình Llama có trên OpenRouter, kèm theo mã định danh API, cửa sổ ngữ cảnh và giá trên mỗi triệu token. Tất cả là giá niêm yết của OpenRouter vào tháng 10 năm 2026; giá có thể thay đổi, hãy kiểm tra lại trước khi lập dự toán chi phí.

Lưu ý rằng độ dài ngữ cảnh ở đây là thông số do các nhà cung cấp của OpenRouter hỗ trợ, có thể nhỏ hơn thông số trên model card của Meta. Meta công bố 10 triệu token cho Scout và 1 triệu token cho Maverick.

Dùng Llama cục bộ như một API

Nếu tự chạy Llama, bạn có thể trỏ cùng đoạn mã đó về chính máy của mình. Máy chủ của LM Studio dùng địa chỉ gốc http://localhost:1234/v1, và lệnh llama serve của llama.cpp cũng khởi chạy một máy chủ tương thích với OpenAI; xem tài liệu máy chủ LM Studio và README của llama.cpp. Ollama có API riêng tại http://localhost:11434/api/chat. Hãy dùng đúng tên mô hình mà công cụ cục bộ của bạn hiển thị thay vì tên trên OpenRouter.

Mẹo xây dựng ứng dụng với Llama

• Bắt đầu với Maverick hoặc Scout cho các tác vụ tổng quát và hình ảnh, và thử Llama 3.1 8B khi tốc độ cùng chi phí quan trọng hơn độ sâu câu trả lời.
• Thiết lập system prompt để định hình vai trò, giọng văn và định dạng đầu ra bạn cần.
• Thêm lớp bảo vệ cho các ứng dụng công khai. Llama Guard 4 có thể phân loại và kiểm duyệt cả câu nhắc lẫn câu trả lời.
• Tuân thủ giấy phép. Sản phẩm phát triển bằng Llama bắt buộc phải hiển thị "Built with Llama" và tuân theo chính sách sử dụng chấp nhận được của Meta. Hãy đọc hướng dẫn giấy phép của chúng tôi.
• Lưu ý mốc cắt tri thức. Llama 4 nắm bắt sự kiện đến tháng 8 năm 2024; hãy bổ sung dữ liệu mới vào câu nhắc khi cần.

Sự cố thường gặp

• Lỗi xác thực (Authorization errors): Thường do thiếu key, gõ sai hoặc key chưa được nạp vào môi trường thực thi của mã nguồn.
• "Model not found": Thường do viết sai tên mô hình. Hãy sao chép chính xác từ bảng trên, bao gồm cả tiền tố meta-llama/.
• Ảnh bị bỏ qua hoặc từ chối: Xảy ra khi bạn gửi ảnh tới mô hình chỉ hỗ trợ văn bản. Hãy đổi sang Maverick hoặc Scout.
• Câu trả lời bị cắt ngang: Nghĩa là nội dung đã chạm giới hạn đầu ra. Hãy yêu cầu câu trả lời ngắn gọn hơn hoặc tăng cài đặt số token tối đa.

Câu hỏi thường gặp

Meta còn cung cấp Llama API không?

Không. Meta đã dừng bản xem trước Llama API vào ngày 6 tháng 7 năm 2026. Meta Model API hiện chỉ phục vụ các mô hình Muse, không có Llama.

Có Llama API nào miễn phí không?

Tự chạy Llama cục bộ sẽ không tốn bất kỳ chi phí token nào. Các API đám mây đều tính phí theo token, dù các mô hình nhỏ như Llama 3.1 8B có giá rất rẻ.

Llama.Online có cung cấp API không?

Không. Llama.Online chỉ là nền tảng chat trên trình duyệt. Hãy dùng nhà cung cấp đám mây hoặc máy chủ cục bộ khi lập trình.

Tôi có thể dùng OpenAI SDK với Llama không?

Có. Bạn chỉ cần trỏ SDK tới một endpoint tương thích với OpenAI, chẳng hạn như OpenRouter hoặc máy chủ LM Studio cục bộ, rồi điền tên mô hình Llama tương ứng.