百度 ERNIE 全系盘点：从 4.5-300B 旗舰到 5.5-Flash，文心开源家族怎么用
百度 ERNIE 全系盘点：从 4.5-300B 旗舰到 5.5-Flash，文心开源家族怎么用
百度文心（ERNIE）是国内最早对外开放的大模型家族之一。2025 年以来，百度在 HuggingFace 上以 baidu 组织开源了 ERNIE 4.5 与 5.5 两大代的完整权重，涵盖文本、多模态视觉、OCR、图像生成多条产品线，并提供了 PaddlePaddle、FP8、W4A8C8、2Bits 等多种量化变体。对想在本地或私有环境跑国产旗舰模型的开发者来说，ERNIE 是 Qwen 之外最有分量的选择之一。本文盘点全系结构、讲清每个变体适合什么场景、以及部署时的注意事项。
30 秒版本
ERNIE 开源家族分五条线：旗舰 MoE（4.5-300B-A47B / 5.5-Flash）、推理模型（4.5-21B-A3B-Thinking）、视觉语言（4.5-VL-28B / 424B）、轻量端侧（4.5-0.3B）、OCR 专精（Unlimited-OCR，490 万下载）。文本对话选 5.5-Flash 或 21B-A3B-Thinking；视觉任务选 VL 系；OCR 直接用 Unlimited-OCR。
家族总览：五条产品线
| 产品线 | 代表模型 | 定位 |
|---|---|---|
| 旗舰 MoE | ERNIE-4.5-300B-A47B、ERNIE-5.5-Flash-Base | 通用能力上限 |
| 推理增强 | ERNIE-4.5-21B-A3B-Thinking | 数学、逻辑、多步推理 |
| 视觉语言 | ERNIE-4.5-VL-28B-A3B、VL-424B-A47B | 图像理解、多模态 |
| 端侧轻量 | ERNIE-4.5-0.3B | 边缘设备、嵌入式 |
| OCR 专精 | Unlimited-OCR、Qianfan-OCR | 文档识别、表格提取 |
为什么 ERNIE 的开源策略值得关注
ERNIE 4.5 起百度把旗舰级 MoE 的完整权重放出（300B-A47B），并提供 FP8 等部署友好量化，这在国产大模型里是少见的「旗舰也开源」姿态。5.5-Flash-Base 在 2026-10 发布，说明这条开源路线在持续。
旗舰线：ERNIE-4.5-300B-A47B 与 5.5-Flash
ERNIE-4.5-300B-A47B 是 4.5 代的旗舰 MoE：总参数约 300B，每 token 激活约 47B（A47B）。这个规格意味着推理开销接近一个 47B dense 模型，但知识容量是 300B 级别。官方提供了四种部署变体：
| 变体 | 精度 | 适用 |
|---|---|---|
FP8-Paddle | 8-bit 浮点 | 标准服务端部署 |
W4A8C8-TP4 | 权重 4-bit/激活 8-bit/缓存 8-bit | 显存受限的多卡部署 |
2Bits-TP2/TP4 | 2-bit 极限量化 | 显存极度紧张的验证场景 |
Base-Paddle | BF16 全精度 | 精度基准对照 |
ERNIE-5.5-Flash-Base 是 2026-10 发布的最新一代，提供 BF16 与标准两种权重。作为「Flash」命名，它面向低延迟场景；与 4.5-300B 的关系类似 Qwen3.8-Flash 与旗舰的关系——同代不同定位。
2Bits 量化是验证用，不是生产用
2Bits 把权重压到 2-bit，显存需求骤降，但质量损失明显。适合「先验证能不能跑起来」，不适合直接上生产。生产环境优先 FP8 或 W4A8C8。
推理线：4.5-21B-A3B-Thinking
ERNIE-4.5-21B-A3B-Thinking 是带思维链的推理模型：总参数 21B、激活 3B，下载量 5.8 万，是 ERNIE 开源系里文本模型的下载主力。它的定位类似 DeepSeek-R1 的轻量版——回答前先输出思考过程，适合数学、代码审查、逻辑推理类任务。
部署要点：Thinking 模型的思考过程通常在单独字段（如 reasoning_content），最终回答在 content。多轮对话时不要把思考内容拼进历史，否则会浪费上下文并干扰回答。
视觉线：VL-28B-A3B 与 VL-424B-A47B
ERNIE 的视觉语言模型分两档：
- 4.5-VL-28B-A3B-Thinking：总参数 28B、激活 3B，轻量多模态，带推理能力
- 4.5-VL-424B-A47B：旗舰多模态，424B 总参数、47B 激活
轻量 VL 适合常规图文理解和文档问答；旗舰 VL 适合复杂视觉推理。两者都有 Base/PT 变体，需要自己微调时从 Base 起步。
端侧线：ERNIE-4.5-0.3B
ERNIE-4.5-0.3B 只有 3 亿参数，是家族里最小的模型，提供 Instruct 和 Base 两个版本。它的用途是嵌入式设备、端侧 demo、或作为流水线里的轻量分类器。不要指望它做复杂推理——它的价值在于「几乎任何设备都能跑」。
OCR 线：Unlimited-OCR 与 Qianfan
OCR 是 ERNIE 开源系里下载量最高的产品线：
- Unlimited-OCR：约 490 万下载，是最广泛使用的版本
- Unlimited-OCR-2：2026-10 发布的新版，一个月内 27 万下载，多语言支持
- Qianfan-OCR：3.1 万下载，配合千帆平台使用
对文档扫描、表格提取、票据识别这类任务，直接用 OCR 专精模型比让通用 LLM 硬看图更准、更便宜。
怎么部署 ERNIE
ERNIE 的原生格式是 PaddlePaddle，这是与 Qwen（safetensors + GGUF 生态）最大的差异：
| 部署方式 | 适用 |
|---|---|
| PaddlePaddle 原生 | 官方推荐，变体最全 |
| FP8 / GPTQ 量化 | vLLM 等推理框架 |
| 社区 GGUF | llama.cpp / Ollama（社区转换，非官方） |
注意：ERNIE 官方权重以 Paddle 格式为主，GGUF 版本主要来自社区转换（mlx-community、个人用户等），质量和完整性以模型卡为准。用 llama.cpp 跑 ERNIE 前先确认社区 GGUF 的转换时间和来源。
EXAIV 云端目录以实时为准
本文发布时，EXAIV 云端目录未接入 ERNIE 系列（当前在售国产为 Qwen/Kimi/GLM）。ERNIE 要在本地跑，走 PaddlePaddle 或社区量化；如果后续平台接入 ERNIE，会在模型目录实时更新。不要把 ERNIE 的 HF 权重名当 API ID 用。
选型速查
| 你的场景 | 推荐 ERNIE |
|---|---|
| 私有化旗舰、追求能力上限 | 4.5-300B-A47B（FP8 或 W4A8C8） |
| 低延迟对话、最新一代 | 5.5-Flash-Base |
| 数学/逻辑推理 | 4.5-21B-A3B-Thinking |
| 图文理解（轻量） | 4.5-VL-28B-A3B-Thinking |
| 图文理解（旗舰） | 4.5-VL-424B-A47B |
| 端侧/嵌入式 | 4.5-0.3B |
| 文档 OCR | Unlimited-OCR-2 |
FAQ
ERNIE 5.5 和 4.5 是什么关系？
A47B 是什么意思？
ERNIE 能用 llama.cpp 跑吗？
Thinking 版和普通版怎么选？
ERNIE 能通过 API 调用吗？
Unlimited-OCR 为什么下载量这么高？
相关阅读
- DeepSeek V4 全系盘点 — 另一个开源最彻底的国产家族
- 混元 hy4 与 A13B 本地部署 — 腾讯混元轻量线
- Kimi K3 与 GLM 接入指南 — EXAIV 可调用的两家
- Qwen GGUF 本地部署入门 — 本地部署通识
- 模型目录 — EXAIV 当前可调用模型