Sambungkan Dify ke EXAIV: Panduan Penyedia Model OpenAI Compatible
Tetapkan EXAIV sebagai penyedia model OpenAI-API-compatible dalam Dify: pengisian URL dan kunci, penambahan model manual serta penyelesaian ralat 401/404 yang kerap
Sambungkan Dify ke EXAIV: Panduan Penyedia Model OpenAI Compatible
Dify ialah platform pembangunan aplikasi LLM sumber terbuka paling popular — RAG, workflow dan agent semuanya memerlukan model penjana teks. EXAIV mempunyai endpoint serasi OpenAI yang boleh disambung terus ke Dify sebagai penyedia model. Panduan ini memberikan konfigurasi peringkat medan dan langkah pengesahan
Prasyarat
- Instans Dify (cloud atau self-hosted)
- Kunci API EXAIV (jana dalam konsol)
- Model ID yang diingini, cth. qwen3.8-flash
Langkah konfigurasi
Buka tetapan penyedia model
Menu avatar kanan atas → Settings → Model ProviderPasang OpenAI-API-compatible
Cari dalam senarai penyedia dan pasangIsi kelayakan
Model Name: model ID; API Key: kunci EXAIV; API endpoint URL: https://exaiv.com/api/ai/v1Simpan dan guna
Simpan kemudian pilih model dalam pemilih Model pada mana-mana aplikasi
Tambah beberapa model
Penyedia compatible menyokong beberapa nama model dalam satu konfigurasi. Tambahkan model sembang, reasoning dan teks panjang supaya aplikasi boleh bertukar ikut tugasan — semuanya dibilkan pada kunci yang sama
Pengesahan
Cipta Chat Assistant, pilih model yang baru ditambah dan hantar mesej. Balasan biasa bermakna sambungan berjaya; kemudian jalankan aplikasi RAG untuk sahkan suntikan konteks berfungsi hujung-ke-hujung
Masalah biasa
| Gejala | Penyelesaian |
|---|---|
| 401 | Semak kunci disalin lengkap dan Dify Cloud boleh menjangkau endpoint |
| 404 | API endpoint ada laluan berlebihan atau kurang /v1; alamat standard ialah https://exaiv.com/api/ai/v1 |
| Senarai model kosong | Model penyedia compatible perlu ditambah namanya secara manual |
| Balasan kosong | Semak ejaan model ID berdasarkan halaman model |
Lanjutan: workflow berbilang model
Selepas penyedia dikonfigur, kekuatan sebenar Dify ialah menghala tugasan ke model berbeza dalam workflow:
- Pengelasan niat guna model pantas berkos rendah, kapasiti flagship disimpan untuk tugasan utama
- Langkah ringkasan atau tulis semula kembali ke model jimat kos
Workflow perkhidmatan pelanggan yang dibina begini berkos jauh lebih rendah berbanding guna flagship untuk semuanya. Harga kredit setiap tingkatan secara masa nyata ada di halaman model — agihkan mengikut nilai kos semasa mereka bentuk.
Amalan pasukan
- Beri setiap aplikasi set konfigurasi model tersendiri supaya tidak menjejaskan antara satu sama lain
- Sebelum produksi, jalankan set data ujian sebenar (ciri datasets terbina Dify) untuk sahkan kualiti selepas sebarang pertukaran model
- Pantau penggunaan kredit ikut aplikasi dalam konsol EXAIV untuk kenal anomali lebih awal
Nota data dan operasi
Kandungan yang dihantar ke model dibilkan sebagai kredit mengikut penggunaan sebenar — mulakan dengan volum kecil untuk menganggar kos sebelum mengembang, dan pantau secara berkala dalam konsol. Untuk data sensitif, semak terma pemprosesan data penyedia sebelum ke produksi. Polisi privasi memuatkan butiran lanjut.
Tetapan yang patut disemak berkala: versi SDK/pustaka baharu boleh mengubah tingkah laku sambungan; dan setiap pertukaran model, jalankan semula ujian lama untuk sahkan kualiti output kekal terjaga sebelum kemas kini produksi.