Tích hợp Kimi K3 vào công cụ phát triển: Cursor, Dify, Open WebUI và client tương thích OpenAI
Kết nối kimi-k3 trên EXAIV với Cursor, Continue, Dify, Open WebUI và mọi client tương thích OpenAI bằng một base URL và một key
Tích hợp Kimi K3 vào công cụ phát triển: Cursor, Dify, Open WebUI và client tương thích OpenAI
kimi-k3 có thể gọi trên cloud EXAIV và endpoint tương thích OpenAI nên đây là việc cấu hình, không phải viết lại code: đổi base URL, điền key, chỉ định tên model, phần còn lại giữ nguyên
Tóm tắt 30 giây
Set base URL to https://exaiv.com/api/ai/v1, use your EXAIV key, set model to kimi-k3, and keep the rest of the OpenAI request format. Streaming and tool calling work as usual.
Client configuration
from openai import OpenAI
client = OpenAI(base_url="https://exaiv.com/api/ai/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": "Summarise this repository"}],
stream=True,
)
for chunk in resp:
print(chunk.choices[0].delta.content or "", end="")
Tool-by-tool settings
Cursor
Open Settings, Models, add a custom OpenAI-compatible provider, set the base URL, enter the key, and add kimi-k3 as the model name.Continue and Cline
Choose the OpenAI provider in the plugin model configuration, fill the base URL and model name, then save.Dify
In Settings, Model Providers, OpenAI-API-compatible, enter the API Base URL, key and model name kimi-k3.Open WebUI
In Admin Settings, Connections, OpenAI, add the same URL and key, then enable kimi-k3 under Models.
Troubleshooting
| Symptom | Cause | Fix |
|---|---|---|
| 401 Unauthorized | expired key or missing Bearer prefix | refresh the key and retry a short request |
| 404 model not found | ID not in the live catalog | copy the exact ID from /models |
| 429 rate limited | request rate exceeded | add exponential backoff |
| Empty streamed output | client dropping chunks without content | concatenate delta.content |
| Tool not invoked | unclear function description | sharpen the tool schema |
Về triển khai: hy4 dùng FP8 hoặc GPTQ-Int4 chính thức với vLLM, hoặc GGUF Q4_K_M 2.61GB từ cộng đồng với llama.cpp và Ollama trên card 6GB hay thậm chí CPU. A13B là MoE 80,39 tỷ tham số nên cần nhiều card hoặc CPU offload, và có GGUF chính thức Q4_K_M 48,8GB
FAQ
Do I need a new SDK?
Can Kimi K3 stream responses?
Can I use it alongside local models?
Where do I check the current model list?
Is kimi-k3 callable today?
Đọc tiếp
- Kimi K3 API guide — first API call
- Kimi K3 long context guide — 1M context practice
- Kimi K3 reasoning guide — reasoning and agents
- hy4 vs Kimi — lightweight versus flagship
Nguồn dữ liệu
Số liệu tham số và kích thước file từ HuggingFace API và config chính thức, lấy mẫu tháng 11 năm 2026