Kimi K3 接入 LangChain / LlamaIndex / Claude Code:能做什么、不能做什么
通过 OpenAI 兼容端点把 kimi-k3 接进 LangChain 与 LlamaIndex,并说明 Claude Code 的 Anthropic 官方支持边界。
Kimi K3 接入 LangChain / LlamaIndex / Claude Code:能做什么、不能做什么
Kimi K3 是 Moonshot 开放线的顶端:2,779,931,837,184 总参数的 MoE,93 层、896 专家、max_position_embeddings 1048576,官方 config.json 里带 vision_config 与 image_placeholder。HuggingFace 标签是 image-text-to-text,2026 年 11 月采样的 30 天下载量 751,953、点赞 11,965。K2.5 与 K2.6 是更早的 1,026,879,376,368 参数快照,61 层、262144 上下文。EXAIV 云端目录里只有 kimi-k3,所以 K2.5、K2.6 只能本地部署,本文也不为它们编造仓库名。
30 秒版本
云端用 kimi-k3;K2.5、K2.6 只作为本地开放权重。config 能证明带视觉输入的条件生成架构,不等于视频生成。价格与 ID 以实时页面为准。
规格对照
| 维度 | 数值 | 说明 |
|---|---|---|
| LangChain | ChatOpenAI with custom base_url | Works |
| LlamaIndex | OpenAI-compatible LLM class | Works |
| OpenAI SDK | base_url + api_key + model | Works |
| Claude Code | Official Anthropic support | Not for non-Claude models |
| Anthropic-compatible endpoint | EXAIV /api/ai/v1/anthropic/messages | Third-party gateway workflow |
| Streaming | Standard OpenAI format | Works |
| Tool calling | Standard OpenAI format | Works |
事实边界
本文所有数字都来自 HuggingFace API 或对应仓库的原始 config.json。这个区分很重要,因为多模态最容易被夸大:vision_config 与 image_placeholder 能证明这是带视觉能力的条件生成架构,但本身不能证明视频生成、某种具体请求格式或某项跑分。超出 config 的部分一律标注为「需实测」,最终以官方模型卡为准。
显存与部署现实
显存规划与所有万亿级 MoE 一样:算力按激活参数算,显存按总参数算。1T 模型即使 4-bit,权重本身也要约 500GB,K2.5、K2.6 明确属于多卡服务器场景,K3 的 2.78T 更大。单张消费卡请去看轻量家族。本地路径是 vLLM 或 SGLang 配官方权重;社区转换文件要先核对来源与量化标签再用。
云端与成本
在 EXAIV 上,kimi-k3 通过 https://exaiv.com/api/ai/v1 这个 OpenAI 兼容端点调用,只改 base_url、api_key、model 三项,流式与工具调用保持标准格式。本文不写死价格,实时 /pricing 页面才是准绳;哪些 ID 真正可用由 /models 实时目录决定。建议记录模型 ID、token 数与延迟,日后换模型才有同一套基线可比。
场景选择
| 场景 | 建议 |
|---|---|
| RAG pipeline in LangChain | ChatOpenAI with kimi-k3 |
| LlamaIndex index query | OpenAI-compatible LLM |
| Keep an existing OpenAI SDK | Change three fields |
| Claude Code workflow | Check Anthropic support boundary |
| Need verified official support | Anthropic documentation |
| Use the cloud model today | kimi-k3 on EXAIV |
FAQ
EXAIV 上该用哪个模型 ID?
K2.5、K2.6 能云端调用吗?
config 能证明视频生成吗?
需要换 SDK 吗?
数字从哪里来?
价格在哪里看?
相关阅读
- Kimi K3 接入指南 — first API call
- Kimi K3 长上下文实战 — 1M context practice
- Kimi K3 本地部署 — local weights
- Kimi K3 工具接入 — editor and platform setup
- hy4 vs Kimi — lightweight versus flagship
数据来源
参数与文件数据为 2026 年 11 月采样,随时间变化。