Llama 3.1 8B

Llama 3.1 8B 是我们聊天室中体量最小、响应最快的模型。它能轻松应对简单的快速任务,也是最适合在个人电脑上本地部署运行的 Llama 模型之一。

5 分钟阅读更新于

什么是 Llama 3.1 8B 以及谁开发了它

Llama 3.1 8B 是 Meta 于 2024 年 7 月 23 日发布的 Llama 3.1 系列中最小的模型。它拥有 80 亿参数,支持文本输入与输出,根据 Meta 的模型说明,其上下文窗口达 128K token。其训练数据截止至 2023 年 12 月。模型权重可在 Llama 3.1 社区许可协议下免费下载。

Llama 3.1 共有三种规格:8B、70B 和 405B。405B 模型是当时 Meta 规模最大的公开可用模型,而 8B 版本专为低成本高速运行而设计。3.1 版本的更新还为较小的模型带来了更长的 128K 上下文支持,其许可协议也明确允许使用 Llama 的输出结果来改进其他模型,例如用于生成训练数据。

在我们的聊天工具中,Llama 3.1 8B 是最快速、最轻量级的选择。Llama.Online 是一个独立网站,并非由 Meta 运营;模型运行在云端推理服务商处,我们的网站负责将你的消息传递给它。

它在 Llama 家族中的定位

你可以把我们聊天工具中的四个模型想象成一把梯子。Llama 3.1 8B 是底部轻快灵活的第一阶。Llama 3.3 70B 则是一个体量大得多的文本模型,拥有更丰富的知识储备与更细腻的理解能力。Llama 4 Scout 和 Llama 4 Maverick 是最新一代模型,同时支持图像识别。此外还有更小尺寸的 Llama 模型:Llama 3.2 1B 和 3B 专为手机及小型设备打造,但并未接入我们的聊天工具。完整的演进历程请参阅 Llama 发展史。

Llama 3.1 8B 擅长什么

  • 快速问答。 概念定义、简单解释、单位换算以及简短的操作指南类问题。
  • 短文改写。 让语气更友好、更精炼或更正式,或者修正一段文字中的语法错误。
  • 撰写短文本草稿。 社交媒体动态、产品简介、得体的回复邮件、标题灵感列表等。
  • 简单整理与提取。 从段落中提取姓名和日期、为用户反馈标记正负面情绪、将杂乱的笔记整理成清单。
  • 在个人电脑上本地运行。 它是最容易在本地部署的 Llama 模型之一。Ollama 上的下载大小约为 4.9 GB,大多数笔记本电脑都能轻松装下。

官方支持八种语言:英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

如何在我们的聊天中使用它

  1. 点击下方链接打开聊天界面,或在模型菜单中选择 Llama 3.1 8B。
  2. 尽量保持提问简短明确。如果对输出格式有要求,最好附上示例。
  3. 如果回答显得浮于表面或出现偏差,可以用 Llama 3.3 70B 或 Maverick 等更大的模型重新生成。

开始与 Llama 3.1 8B 聊天

在每日免费额度内可尽情畅聊,目前上限为每天 100 条消息。图像处理需要借助 Llama 4 模型,因此上传图片会自动将聊天切换至 Maverick。

需要注意的局限性

  • 模型越小,出错几率越高。 仅有 80 亿参数意味着它的知识量不及大模型,出现事实性错误的频率也更高,尤其在冷门领域、人物信息和数字方面。建议将它的回答作为参考起点,需自行核实。
  • 复杂推理较弱。 多步骤数学题、棘手的逻辑问题以及长代码更适合交给 Llama 3.3 70B 或 Llama 4 处理。
  • 仅限纯文本。 它无法识别或处理图像。
  • 知识库非最新。 它的训练数据截止于 2023 年 12 月,且我们的聊天工具未接入实时网络。
  • 长文档处理。 虽然模型本身支持 128K token,但我们的免费聊天服务会裁剪过长的对话,只保留最近的内容;而且小模型在处理长篇大论时也更容易漏掉细节。

官方获取 Llama 3.1 8B 的途径

Meta 在 Hugging Face 上以 meta-llama/Llama-3.1-8B-Instruct 发布了该权重;只需在模型页面同意许可协议即可解锁下载。本地运行最简单的方式是使用 Ollama:安装后执行 ollama run llama3.1,默认就会下载 8B 版本。LM Studio 和 llama.cpp 同样适用;详情请参阅本地运行 Llama 指南。

通过云端 API 调用它是市面上最划算的选择之一:OpenRouter 的报价为每百万输入 token $0.05,每百万输出 token $0.08(OpenRouter 官方标价,2026 年 10 月),在我们服务商处的上下文窗口为 131,072 token。查看我们的 Llama API 指南了解调用方法。

Llama 3.1 社区许可协议允许附带条件的商业用途:须遵守可接受使用政策、在产品中展示 "Built with Llama"、公开发布的微调模型名称需以 "Llama" 开头;如果你的产品月活跃用户超过 7 亿,则需向 Meta 单独申请许可。详见我们的许可说明页面。

隐私说明

在我们的聊天工具中,你的消息会通过我们的服务器和 AI 网关传输至运行该模型的推理服务商。我们不会存储你的消息文本,你的对话历史仅保存在本地浏览器中。由于 Llama 3.1 8B 体量足够小,完全可以在笔记本电脑上运行,因此对于完全不想通过网络发送任何数据的用户来说,它也是一个热门选择。

Llama 3.1 8B 横向对比

与 Llama 3.3 70B 相比,它速度更快、成本更低,但知识储备和严谨度稍逊一筹。与 Llama 4 相比,它缺少视觉理解能力,知识库也更早。与 Llama 3.2 3B 等超小模型相比,它能力更全面,但需要更多内存。如果你拿不定主意,我们的选择合适的 Llama 模型指南涵盖了各类常见任务场景,而 Llama 3.3 对比 Llama 4 则详细对比了更高级的模型选项。

常见问题

为什么要选最小的模型?

速度。对于简短明确的任务,它响应极快,效果通常就足够用了。只有在对准确度或深度要求极高时,才需要换用更大的模型。

我能在笔记本电脑上运行 Llama 3.1 8B 吗?

大部分情况下都可以。Ollama 的下载大小约为 4.9 GB。在内存充裕且配备较新的独立显卡或 Apple Silicon 芯片的设备上体验最佳,不过在许多普通电脑上也能以稍慢的速度运行。

Llama 3.1 8B 和 Llama 3 8B 是一样的吗?

不一样。Llama 3 8B 发布于 2024 年 4 月,仅有 8K 上下文窗口;Llama 3.1 8B 于 2024 年 7 月发布,将上下文窗口扩展到了 128K,并正式支持八种语言。

它了解最近发生的新闻吗?

不了解。它的训练数据截止到 2023 年 12 月,而且我们的聊天工具无法联网搜索。

向 Llama 提第一个问题

免注册、免安装。打开对话框输入内容,即刻探索 Llama 的强大能力。

开启 Llama 对话