LangChain + EXAIV: Tukar Penyedia Model dengan Satu Baris (Python/JS)
Halakan ChatOpenAI milik LangChain ke endpoint serasi OpenAI EXAIV: contoh penuh Python dan TypeScript, streaming, tool calling serta ralat biasa
LangChain + EXAIV: Tukar Penyedia Model dengan Satu Baris (Python/JS)
ChatOpenAI milik LangChain menyokong base_url tersuai sejak awal — halakan ia ke endpoint serasi OpenAI EXAIV dan seluruh chain, agent serta RAG pipeline anda berjalan di atas kolam model EXAIV tanpa sebarang perubahan berstruktur
Python
@PYCODE@
Pasang: pip install langchain-openai
JavaScript / TypeScript
@JSCODE@
Pasang: npm install @langchain/openai
Streaming
Abstraksi streaming LangChain berfungsi tidak berubah dengan base_url tersuai — peristiwa diteruskan mengikut protocol serasi OpenAI
@STREAMCODE@
Agent dan tool calling
Pembalut peringkat tinggi seperti create_agent / create_react_agent hanya perlukan instance llm ini. Pemanggilan tool mengikut protocol function calling standard OpenAI yang diteruskan penuh oleh endpoint EXAIV
@ SWT@
Tukar model dalam LangChain = menukar string parameter model. Model tersedia ialah senarai endpoint (lihat halaman model) contohnya deepseek-v4-flash, glm-5.3, claude-opus-4-8-fd — semua boleh guna dengan kunci yang sama
Masalah biasa
| Gejala | Semak dahulu |
|---|---|
| 401 | AuthenticationError: kunci ditampal tidak lengkap atau tersalah guna kunci rasmi OpenAI |
| 404 | NotFoundError: base_url tiada /v1; standard EXAIV ialah https://exaiv.com/api/ai/v1 |
| Timeout | Giliran agent yang kompleks mengambil masa lama, tetapkan timeout pihak klien lebih panjang |
Lanjutan: RAG dan agents
RAG: saluran retriever → llm tidak perlukan konfigurasi tambahan — base_url terpakai untuk keseluruhan rantaian. Tukar retriever ke stor vektor anda sendiri (FAISS/Milvus dll.); EXAIV mengurus peringkat penjanaan.
Output berstruktur: .with_structured_output(model Pydantic) berfungsi pada endpoint mengikut semantic OpenAI — ideal untuk mengekstrak medan daripada teks tak berstruktur.
Kolaborasi berbilang model: instantiate dua ChatOpenAI dalam satu agent — satu model pantas untuk perancangan, satu flagship untuk pelaksanaan — setiap satu dibilkan berasingan. Ini corak biasa untuk kawal kos agent.
Kebolehlihatan: LangSmith dan alat penjejak guna callback standard dan tidak bercanggah dengan base_url tersuai, memudahkan cari langkah yang membazir token.
Nota data dan operasi
Kandungan yang dihantar ke model dibilkan sebagai kredit mengikut penggunaan sebenar — mulakan dengan volum kecil untuk menganggar kos sebelum mengembang, dan pantau secara berkala dalam konsol. Untuk data sensitif, semak terma pemprosesan data penyedia sebelum ke produksi. Polisi privasi memuatkan butiran lanjut.
Tetapan yang patut disemak berkala: versi SDK/pustaka baharu boleh mengubah tingkah laku sambungan; dan setiap pertukaran model, jalankan semula ujian lama untuk sahkan kualiti output kekal terjaga sebelum kemas kini produksi.