Kết nối Dify với EXAIV: cấu hình nhà cung cấp mô hình OpenAI Compatible
Thiết lập EXAIV làm nhà cung cấp mô hình OpenAI-API-compatible trong Dify: điền URL và key, thêm mô hình thủ công, xử lý lỗi 401/404 thường gặp
Kết nối Dify với EXAIV: cấu hình nhà cung cấp mô hình OpenAI Compatible
Dify là nền tảng phát triển ứng dụng LLM mã nguồn mở phổ biến — RAG, workflow và agent đều cần một mô hình sinh văn bản. EXAIV có endpoint tương thích OpenAI, kết nối thẳng vào Dify như một nhà cung cấp mô hình. Bài viết này đưa ra cấu hình tới từng trường và quy trình xác minh
Điều kiện cần
- Một bản Dify (cloud hoặc self-hosted)
- API key EXAIV (tạo trong console)
- Model ID muốn dùng, ví dụ qwen3.8-flash
Các bước cấu hình
Mở cài đặt nhà cung cấp
Menu avatar góc phải trên → Settings → Model ProviderCài OpenAI-API-compatible
Tìm trong danh sách và cài đặtĐiền thông tin xác thực
Model Name điền model ID; API Key điền key EXAIV; API endpoint URL điền https://exaiv.com/api/ai/v1Lưu và sử dụng
Lưu rồi chọn mô hình trong mục Model của ứng dụng
Thêm nhiều mô hình
Nhà cung cấp compatible hỗ trợ thêm nhiều tên mô hình trong một cấu hình. Thêm cả mô hình hội thoại, reasoning và văn bản dài để chuyển theo tác vụ — tất cả tính trên cùng một key
Xác minh
Tạo Chat Assistant, chọn mô hình vừa thêm và gửi tin nhắn. Trả lời bình thường nghĩa là thành công; sau đó chạy ứng dụng RAG để xác minh context hoạt động đầu-cuối
Lỗi thường gặp
| Hiện tượng | Cách xử lý |
|---|---|
| 401 | Kiểm tra key đã copy đủ và Dify Cloud có truy cập được endpoint không |
| 404 | API endpoint có path thừa hoặc thiếu /v1; địa chỉ chuẩn là https://exaiv.com/api/ai/v1 |
| Danh sách model trống | Mô hình cần thêm tên thủ công |
| Trả lời rỗng | Soi chính tả model ID theo trang mô hình |
Nâng cao: workflow đa mô hình
Sau khi cấu hình nhà cung cấp, sức mạnh thật của Dify là định tuyến tác vụ sang các mô hình khác nhau trong workflow:
- Phân loại ý định dùng mô hình nhanh giá thấp, giữ năng lực flagship cho tác vụ chính
- Các bước tóm tắt hoặc viết lại quay về mô hình giá rẻ
Một workflow chăm sóc khách hàng dựng kiểu này có chi phí thấp hơn rõ rệt so với dùng flagship cho toàn bộ. Giá credits theo từng cấp xem tại trang mô hình và phân bổ theo hiệu quả chi phí khi thiết kế.
Thực hành cho nhóm
- Mỗi ứng dụng một bộ cấu hình mô hình riêng để không ảnh hưởng chéo
- Trước khi lên production, chạy bộ dữ liệu kiểm thử thật (Dify có tính năng datasets sẵn) để xác nhận chất lượng sau khi đổi mô hình
- Theo dõi tiêu thụ credits theo từng ứng dụng trong console EXAIV để phát hiện bất thường sớm
Lưu ý về dữ liệu và vận hành
Nội dung gửi đến mô hình được tính credits theo mức dùng thực — hãy bắt đầu với khối lượng nhỏ để ước tính chi phí trước khi mở rộng, và theo dõi định kỳ trong console. Với dữ liệu nhạy cảm, hãy xem điều khoản xử lý dữ liệu của nhà cung cấp trước khi đưa vào production. Chính sách quyền riêng tư có thêm chi tiết.
Các thiết lập nên kiểm tra định kỳ: phiên bản SDK/library mới có thể thay đổi hành vi kết nối; và khi đổi mô hình, hãy chạy lại bộ test cũ để xác nhận chất lượng đầu ra trước khi cập nhật production.