Llama API：如何在代码中调用 Llama

简要概述

在 2026 年，要想在自己的代码中使用 Llama，通常有两条切实可行的途径：通过托管 Llama 模型的云服务商调用，或者自行运行模型并使用本地服务器。Meta 官方已不再提供托管版 Llama API。本指南将解释这一变动，并通过 OpenRouter 展示可实际运行的代码示例。该服务提供统一样式的 API，支持包括 Llama 4 Maverick 和 Scout 在内的多种模型。

Meta 的 Llama API 发生了什么变化

在发布 Llama 4 之后，Meta 曾面向开发者推出托管版 Llama API 公测。然而，Meta 已于 2026 年 7 月 6 日关闭了该测试。Meta 较新的开发者产品 Meta Model API 仅提供其 Muse 系列模型（例如 Muse Wonder），并不包含 Llama。Meta 官方帮助页面对此有明确说明：“Model API 不会为你运行 Llama 模型。”换句话说，现在的 Llama 需要你自行下载运行，或者通过第三方提供商来使用。详情请参阅 Meta 关于 Llama 与 Model API 的说明。

我们的网页聊天不支持 Muse 模型，其定价也不在本文讨论范围内。本指南的后续内容将全篇专注于 Llama。

可选方案一览

• 模型路由服务（例如 OpenRouter）。 一个 API 密钥、一个兼容 OpenAI 格式的端点，即可调用多种模型。非常适合测试多个 Llama 版本并在它们之间无缝切换。
• 直接托管 Llama 的云服务商。 许多推理计算公司和主流云平台都提供 Llama 模型。在做出选择前，建议先对比各家的价格、速率限制和数据隐私政策。
• 自己的服务器或电脑。 使用 LM Studio、Ollama 或 llama.cpp 本地运行 Llama，并通过兼容 OpenAI 的本地 API 进行调用。完全没有 Token 费用，还能全面掌控数据安全。详见本地运行 Llama。

通过 OpenRouter 调用 Llama

OpenRouter 的 API 遵循与 OpenAI 聊天补全（chat completions）相同的格式，因此大多数现有的代码和 SDK 只需修改基础地址（Base URL）和模型名称即可直接使用。在 OpenRouter 上注册账号并创建 API 密钥，将密钥存放在名为 OPENROUTER_API_KEY 的环境变量中，切勿将其暴露在前端客户端代码中。具体步骤可参考 OpenRouter 快速入门。

curl

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "meta-llama/llama-4-maverick",
    "messages": [
      {"role": "user", "content": "写一首关于开放权重模型的俳句。"}
    ]
  }'

Python（搭配 OpenAI SDK）

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="meta-llama/llama-4-scout",
    messages=[{"role": "user", "content": "用三点总结 Llama 的许可协议。"}],
)
print(response.choices[0].message.content)

JavaScript（使用 fetch）

const res = await fetch("https://openrouter.ai/api/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": `Bearer ${process.env.OPENROUTER_API_KEY}`,
  },
  body: JSON.stringify({
    model: "meta-llama/llama-3.3-70b-instruct",
    messages: [{ role: "user", content: "给我起三个面包店的名字。" }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

请在服务端运行此类 JavaScript 代码，不要放在前端网页中，以确保密钥安全。如果你希望回复像打字一样逐字呈现，API 同样支持流式传输（Streaming）。

向 Llama 4 发送图片

Llama 4 Maverick 和 Scout 支持多模态图像输入。在兼容 OpenAI 的格式中，消息内容（content）需要设为一个包含文本和图片部分的列表：

{
  "model": "meta-llama/llama-4-maverick",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "text", "text": "这张图片里有什么？"},
      {"type": "image_url", "image_url": {"url": "https://example.com/photo.jpg"}}
    ]
  }]
}

Llama 3.3 70B 和 Llama 3.1 8B 仅支持纯文本，因此如需处理图片，请调用 Llama 4 系列模型。

Llama 模型名称与价格

以下是 OpenRouter 列出的 Llama 模型，包含对应的 API 调用名称、上下文窗口以及每百万 Token 的价格。所有价格均为 2026 年 10 月 OpenRouter 的标价；价格可能会调整，制定预算前请以官方实时数据为准。

请注意，此处列出的上下文窗口是 OpenRouter 托管方实际支持的长度，可能小于 Meta 官方模型卡所描述的理论上限。Meta 官方标注 Scout 最高支持 1000 万 Token，Maverick 最高支持 100 万 Token。

将本地 Llama 作为 API 使用

如果你在本地运行 Llama，可以将相同的调用代码直接指向自己的设备。LM Studio 服务端默认使用 http://localhost:1234/v1 作为基础地址；llama.cpp 的 llama serve 命令也会启动一个兼容 OpenAI 格式的服务端，详见 LM Studio 服务端文档和 llama.cpp 说明文件。Ollama 则提供专有 API，地址为 http://localhost:11434/api/chat。在本地调用时，请将模型名称替换为本地工具中所显示的实际名称，而非 OpenRouter 的模型全名。

基于 Llama 构建应用的实用建议

• 首选 Maverick 或 Scout 来处理通用任务和图像理解；如果对速度和成本的要求高于内容深度，可以尝试 Llama 3.1 8B。
• 设置 System Prompt（系统提示词），明确指定模型所需的角色定位、语气风格及输出格式。
• 为面向公众的应用增加安全防护层。可以使用 Llama Guard 4 对用户的输入提示词和模型的输出回复进行分类审核。
• 严格遵守许可协议。基于 Llama 构建的产品必须显著展示“Built with Llama”标识，并遵循 Meta 的可接受使用政策。欢迎查阅我们的许可证指南。
• 注意知识截止日期。Llama 4 的知识库更新至 2024 年 8 月；如涉及最新时效性信息，请在提示词中提供实时参考数据。

常见问题排查

• 认证错误（Authorization Error）：通常意味着密钥缺失、输入有误，或者没有正确注入到代码运行的环境变量中。
• “Model not found”（未找到模型）：多半是模型名称拼写错误。请严格从上表复制，包括 meta-llama/ 前缀。
• 图片被忽略或报错拒绝：通常是因为向纯文本模型发送了图片。请换用 Maverick 或 Scout 等多模态模型。
• 回复内容被截断：说明输出达到了 Token 上限。可以提示模型生成更简短的回答，或者调高最大 Token（max tokens）配置。

常见问题解答

Meta 现在还提供 Llama API 吗？

不提供了。Meta 已于 2026 年 7 月 6 日关闭了托管版 Llama API 的公测。其全新的 Meta Model API 仅支持 Muse 系列模型，不再提供 Llama。

有免费的 Llama API 可以用吗？

在本地部署运行 Llama 完全免费，无需支付任何 Token 费用。托管版 API 均按 Token 计费，不过 Llama 3.1 8B 等轻量级模型的调用成本非常低廉。

Llama.Online 提供 API 接口吗？

不提供。Llama.Online 仅面向网页端用户提供交互聊天。如需通过代码调用，请选用第三方云服务商或自行搭建本地服务器。

我可以使用 OpenAI SDK 来调用 Llama 吗？

可以。只需将 SDK 的基础地址（Base URL）指向兼容 OpenAI 格式的端点（例如 OpenRouter 或本地 LM Studio 服务器），并将模型名称指定为对应的 Llama 模型即可。