Integrasi Kimi K3 ke Alat Pembangun: Cursor, Dify, Open WebUI dan Klien Serasi OpenAI
Sambungkan kimi-k3 pada EXAIV ke Cursor, Continue, Dify, Open WebUI dan mana-mana klien serasi OpenAI dengan satu base URL dan satu kunci
Integrasi Kimi K3 ke Alat Pembangun: Cursor, Dify, Open WebUI dan Klien Serasi OpenAI
kimi-k3 boleh dipanggil pada cloud EXAIV dan endpointnya serasi OpenAI jadi ini kerja konfigurasi bukan menulis semula kod: tukar base URL, isi kunci, tentukan nama model, selebihnya kekal sama
Ringkasan 30 saat
Set base URL to https://exaiv.com/api/ai/v1, use your EXAIV key, set model to kimi-k3, and keep the rest of the OpenAI request format. Streaming and tool calling work as usual.
Client configuration
from openai import OpenAI
client = OpenAI(base_url="https://exaiv.com/api/ai/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": "Summarise this repository"}],
stream=True,
)
for chunk in resp:
print(chunk.choices[0].delta.content or "", end="")
Tool-by-tool settings
Cursor
Open Settings, Models, add a custom OpenAI-compatible provider, set the base URL, enter the key, and add kimi-k3 as the model name.Continue and Cline
Choose the OpenAI provider in the plugin model configuration, fill the base URL and model name, then save.Dify
In Settings, Model Providers, OpenAI-API-compatible, enter the API Base URL, key and model name kimi-k3.Open WebUI
In Admin Settings, Connections, OpenAI, add the same URL and key, then enable kimi-k3 under Models.
Troubleshooting
| Symptom | Cause | Fix |
|---|---|---|
| 401 Unauthorized | expired key or missing Bearer prefix | refresh the key and retry a short request |
| 404 model not found | ID not in the live catalog | copy the exact ID from /models |
| 429 rate limited | request rate exceeded | add exponential backoff |
| Empty streamed output | client dropping chunks without content | concatenate delta.content |
| Tool not invoked | unclear function description | sharpen the tool schema |
Untuk pemasangan: hy4 menggunakan FP8 atau GPTQ-Int4 rasmi bersama vLLM, atau GGUF Q4_K_M 2.61GB daripada komuniti bersama llama.cpp dan Ollama pada kad 6GB malah CPU. A13B ialah MoE 80.39 bilion parameter justeru memerlukan berbilang kad atau CPU offload, dan mempunyai GGUF rasmi Q4_K_M 48.8GB
Kos dan konteks
Panggilan dikira daripada token masukan dan keluaran, bukan daripada bilangan permintaan. Konteks 1M ialah siling bukan nilai lalai: potong atau ringkaskan bahan tidak berkaitan sebelum menghantar, dan aktifkan streaming hanya apabila pengguna perlu melihat hasil serta-merta. Harga serta pakej kredit semasa sentiasa ada di halaman /pricing kerana angka dalam mana-mana artikel boleh menjadi lapuk. Simpan juga log mengandungi ID model, jumlah token dan kependaman supaya pertukaran model kemudian hari mempunyai garis asas yang sama untuk dibandingkan.
FAQ
Do I need a new SDK?
Can Kimi K3 stream responses?
Can I use it alongside local models?
Where do I check the current model list?
Is kimi-k3 callable today?
Bacaan lanjutan
- Kimi K3 API guide — first API call
- Kimi K3 long context guide — 1M context practice
- Kimi K3 reasoning guide — reasoning and agents
- hy4 vs Kimi — lightweight versus flagship
Sumber data
Angka parameter dan saiz fail daripada HuggingFace API serta konfigurasi rasmi, disampel November 2026
Nota penutup: simpan juga konfigurasi kelompok dan panjang konteks semasa pengukuran supaya setiap perubahan mempunyai angka pembanding yang adil.