Hubungkan Dify ke EXAIV: Panduan Penyedia Model OpenAI Compatible
Atur EXAIV sebagai penyedia model OpenAI-API-compatible di Dify: pengisian URL dan key, penambahan model manual, serta penanganan error 401/404 yang umum
Hubungkan Dify ke EXAIV: Panduan Penyedia Model OpenAI Compatible
Dify adalah platform pengembangan aplikasi LLM open source paling populer — RAG, workflow, dan agent semuanya butuh model generasi teks. EXAIV punya endpoint kompatibel OpenAI yang bisa langsung jadi penyedia model di Dify. Panduan ini memberikan konfigurasi level field dan langkah verifikasi
Prasyarat
- Instans Dify (cloud atau self-hosted)
- API key EXAIV (buat di console)
- Model ID yang ingin dipakai, mis. qwen3.8-flash
Langkah konfigurasi
Buka pengaturan penyedia model
Menu avatar kanan atas → Settings → Model ProviderInstal OpenAI-API-compatible
Cari dalam daftar penyedia lalu instalIsi kredensial
Model Name: model ID; API Key: kunci EXAIV; API endpoint URL: https://exaiv.com/api/ai/v1Simpan dan gunakan
Simpan lalu pilih model di selector Model pada aplikasi
Tambah beberapa model
Penyedia compatible mendukung beberapa nama model dalam satu konfigurasi. Tambahkan model percakapan, reasoning, dan teks panjang agar aplikasi bisa berganti per tugas — semuanya ditagih di key yang sama
Verifikasi
Buat Chat Assistant, pilih model yang baru ditambahkan, kirim pesan. Balasan normal berarti berhasil; lanjutkan dengan aplikasi RAG untuk memastikan injeksi konteks bekerja
Masalah umum
| Gejala | Perbaikan |
|---|---|
| 401 | Pastikan API Key tersalin lengkap dan Dify Cloud dapat menjangkau endpoint |
| 404 | API endpoint ada path berlebih atau kurang /v1; alamat standar adalah https://exaiv.com/api/ai/v1 |
| Daftar model kosong | Model penyedia compatible harus ditambahkan namanya secara manual |
| Balasan kosong | Periksa ejaan model ID berdasarkan halaman model |
Lanjutan: workflow multi-model
Setelah penyedia dikonfigurasi, kekuatan sebenarnya Dify adalah merutekan tugas ke model berbeda di dalam workflow:
- Klasifikasi niat memakai model cepat berbiaya rendah, kapasitas flagship disimpan untuk tugas utama
- Langkah peringkasan atau penulisan ulang kembali ke model hemat biaya
Workflow layanan pelanggan yang dibangun seperti ini berbiaya jauh lebih rendah dibanding memakai model flagship untuk semuanya. Tarif kredit tiap tingkatan secara real-time ada di halaman model — alokasikan berdasarkan nilai biaya saat mendesain.
Praktik tim
- Beri setiap aplikasi rangkaian konfigurasi model tersendiri agar tidak saling memengaruhi
- Sebelum produksi, jalankan dataset evaluasi nyata (fitur datasets bawaan Dify) untuk memastikan kualitas setiap pergantian model
- Pantau konsumsi kredit per aplikasi di console EXAIV agar anomali cepat terdeteksi
Catatan data dan operasional
Konten yang dikirim ke model ditagih sebagai credits sesuai pemakaian nyata — mulai dari volume kecil untuk mengukur biaya sebelum memperluas, dan pantau secara berkala di console. Untuk data sensitif, tinjau ketentuan pemrosesan data penyedia sebelum masuk ke produksi. Kebijakan privasi memuat detail tambahan.
Pengaturan yang layak diperiksa berkala: versi SDK/library baru bisa mengubah perilaku koneksi; dan setiap pergantian model, jalankan ulang rangkaian uji lama untuk memastikan kualitas keluaran tetap terjaga sebelum update produksi.