LangChain + EXAIV: Ganti Penyedia Model dengan Satu Baris (Python/JS)
Arahkan ChatOpenAI milik LangChain ke endpoint kompatibel OpenAI EXAIV: contoh lengkap Python dan TypeScript, streaming, tool calling, dan error umum
LangChain + EXAIV: Ganti Penyedia Model dengan Satu Baris (Python/JS)
ChatOpenAI milik LangChain mendukung base_url kustom sejak awal — arahkan ke endpoint kompatibel OpenAI EXAIV dan seluruh chain, agent, serta RAG pipeline Anda berjalan di kolam model EXAIV tanpa perubahan struktural
Python
@PYCODE@
Instal: pip install langchain-openai
JavaScript / TypeScript
@JSCODE@
Instal: npm install @langchain/openai
Streaming
Abstraksi streaming LangChain bekerja tanpa perubahan dengan base_url kustom — event diteruskan sesuai protocol kompatibel OpenAI
@STREAMCODE@
Agent dan tool calling
Wrapper tingkat tinggi seperti create_agent / create_react_agent cukup menerima instance llm ini. Tool calling memakai protocol function calling standar OpenAI yang diteruskan lengkap oleh endpoint EXAIV
@ SWT@
Ganti model di LangChain = mengubah string parameter model. Model yang tersedia adalah daftar endpoint (lihat halaman model) misalnya deepseek-v4-flash, glm-5.3, claude-opus-4-8-fd — semua bisa dengan key yang sama
Masalah umum
| Gejala | Periksa pertama |
|---|---|
| 401 | AuthenticationError: key ditempel tidak lengkap atau salah memakai key OpenAI resmi |
| 404 | NotFoundError: base_url kurang /v1; standar EXAIV adalah https://exaiv.com/api/ai/v1 |
| Timeout | Giliran agent yang kompleks memang butuh waktu lama, naikkan timeout sisi klien |
Lanjutan: RAG dan agents
RAG: pipeline retriever → llm tidak butuh konfigurasi tambahan — base_url berlaku untuk seluruh rantai. Ganti retriever ke vector store Anda sendiri (FAISS/Milvus/dll.); EXAIV menangani tahap generasi.
Structured output: .with_structured_output(model Pydantic) bekerja di endpoint sesuai semantic OpenAI — ideal untuk mengekstrak field dari teks tak terstruktur.
Kolaborasi multi-model: instantiate dua ChatOpenAI dalam satu agent — satu model cepat untuk perencanaan, satu flagship untuk eksekusi — masing-masing ditagih terpisah. Ini pola umum menjaga biaya agent tetap terkendali.
Observability: LangSmith dan alat tracing memakai callback standar dan tidak konflik dengan base_url kustom, memudahkan mencari langkah yang boros token.
Catatan data dan operasional
Konten yang dikirim ke model ditagih sebagai credits sesuai pemakaian nyata — mulai dari volume kecil untuk mengukur biaya sebelum memperluas, dan pantau secara berkala di console. Untuk data sensitif, tinjau ketentuan pemrosesan data penyedia sebelum masuk ke produksi. Kebijakan privasi memuat detail tambahan.
Pengaturan yang layak diperiksa berkala: versi SDK/library baru bisa mengubah perilaku koneksi; dan setiap pergantian model, jalankan ulang rangkaian uji lama untuk memastikan kualitas keluaran tetap terjaga sebelum update produksi.