Kết nối Kimi K3 và GLM trên EXAIV bằng một endpoint

Kimi và GLM là hai gia đình mô hình mở của Trung Quốc đi theo hai hướng khác nhau rõ rệt: một bên nhấn mạnh long context, bên kia nhấn mạnh tool calling. Bài này so sánh cấu trúc gia đình, quantization chính thức, hệ sinh thái cộng đồng và đường triển khai thực tế; mọi con số đều được kiểm chứng qua HuggingFace API và config chính thức

The two flagships

Trong các mô hình mở Trung Quốc, Kimi của Moonshot và GLM của Zhipu đi hai hướng rõ rệt: Kimi dẫn về ngữ cảnh dài và suy luận, GLM nổi bật về gọi công cụ và tác vụ agent. EXAIV có cả kimi-k3 lẫn glm-5.3-flash trong danh mục cloud, nên sau khi đăng ký bạn dùng một key gọi cả hai qua endpoint chuẩn OpenAI mà không đổi SDK

Bảng so sánh

Integration steps

Ba bước kết nối: đặt base_url thành https://exaiv.com/api/ai/v1, đưa key vào header Authorization, rồi chỉ định model là kimi-k3 hoặc glm-5.3-flash. Cả hai hỗ trợ streaming và tool calling theo định dạng OpenAI nên mã hiện tại chuyển sang ngay được. Hãy luôn kiểm tra danh mục thời gian thực trước khi dùng vì ID và giá có thể thay đổi

from openai import OpenAI

client = OpenAI(base_url="https://exaiv.com/api/ai/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "Summarise this document"}],
    stream=True,
)
for chunk in resp:
    print(chunk.choices[0].delta.content or "", end="")

Streaming, tool calling and bigger local versions

Nếu cần bản lớn hơn như Kimi-K3.1-Pro (phiên bản sau K3 với khoảng 742.400 lượt tải) hay GLM-5.3 đầy đủ, hãy dùng trọng số mở trên HuggingFace và GGUF cộng đồng. Kimi-K3 có 2,78 nghìn tỷ tham số tổng theo kiến trúc MoE, còn GLM-5.3-Flash có 321,32 tỷ và dùng giấy phép MIT, nên tự chạy đòi hỏi máy chủ nhiều card

Hệ sinh thái và số liệu thực

Khoảng cách về mức độ dùng thực tế trong cộng đồng cũng là chỉ báo rõ ràng: 742,400 downloads for Kimi-K3 and 6,388,408 for GLM-5.3-Flash Các con số là lượt tải 30 ngày từ HuggingFace, phản ánh quy mô cộng đồng và khả năng tìm được file GGUF khớp với phần cứng, không phải thước đo chất lượng mô hình, nhưng trong production nó ảnh hưởng trực tiếp tới thời gian xử lý sự cố

Chọn theo tình huống

Kết luận

Câu hỏi đáng giá không phải ai mạnh hơn mà là công việc của bạn cần gì: cần công cụ, tài liệu và lựa chọn có sẵn thì đi theo Kimi; cần kiểm soát trọng số, quantization và giữ dữ liệu trong máy thì đi theo GLM. Nhiều hệ thống dùng cả hai và phân luồng theo loại tác vụ

Xử lý lỗi thường gặp

Triệu chứng đầu tiên là 401 Unauthorized, hầu hết do key hết hạn, đặt sai header hoặc thiếu tiền tố Bearer; hãy lấy lại giá trị từ console và thử lại bằng một yêu cầu ngắn trước khi nghi ngờ model. Tiếp theo là 404 hoặc thông báo không tìm thấy model, nghĩa là ID gửi đi không có trong danh mục tại thời điểm đó; hãy mở trang /models lấy tên thật rồi sửa trường model. Mã 429 là giới hạn tốc độ, cần thêm exponential backoff và tách yêu cầu có thể lặp lại khỏi yêu cầu không thể lặp

Với streaming, hãy nhớ kết quả trả về là từng mảnh chứ không phải văn bản hoàn chỉnh; phía client phải nối các mảnh lại và xử lý trường hợp chunk cuối không có content. Với tool calling, dùng đúng định dạng OpenAI; nếu công cụ không được gọi, nguyên nhân thường là mô tả hàm chưa rõ hoặc system prompt chưa cho phép dùng công cụ, không phải giới hạn của model

Chi phí, hạn mức và lưu ý

Cuộc gọi được tính theo số token đầu vào và đầu ra, không phải theo số request, nên việc đưa cả tài liệu dài vào mỗi lần sẽ đẩy chi phí tăng rất nhanh. Cách nên làm là cắt hoặc tóm tắt phần không liên quan trước khi gửi, và chỉ bật streaming ở nơi người dùng cần thấy kết quả ngay. Giá và gói credit hiện hành luôn xem tại trang /pricing vì con số trong bất kỳ bài viết nào cũng có thể lỗi thời

Nên cache kết quả cho các câu hỏi lặp lại, đồng thời lưu log gồm ID model, số token và thời gian phản hồi làm bộ dữ liệu đối soát về sau. Khi đổi model từ kimi-k3 sang glm-5.3-flash hoặc ngược lại, hãy chạy lại cùng bộ kiểm thử vì hành vi gọi công cụ và độ dài câu trả lời khác nhau, dù định dạng yêu cầu hoàn toàn giống hệt

FAQ

Đọc tiếp

• Kimi K3 API guide — hướng dẫn gọi
• Kimi K3 long context guide — ngữ cảnh 1M
• Kimi K3 open weight deployment — trọng số mở
• Kimi vs GLM — so sánh

Nguồn dữ liệu

• moonshotai on HuggingFace
• zai-org on HuggingFace

Số liệu tham số và kích thước file từ HuggingFace API và config chính thức, lấy mẫu tháng 11 năm 2026