hy4Halaman model hy4: dense 4,22 miliar parameter, konteks native 256K, kuantisasi resmi FP8/GPTQ-Int4/AWQ-Int4, dan perhitungan memori
Perbedaan paling nyata ada pada format bobot: hy4 dari Hunyuan adalah satu-satunya model 4B kelas Tiongkok yang sumbernya merilis FP8, GPTQ-Int4, dan AWQ-Int4 sekaligus, sementara kebanyakan keluarga lain hanya memberi FP8 lalu menyerahkan 4-bit ke komunitas. Memiliki GPTQ sekaligus AWQ berarti Anda bisa mengukur di stack sendiri lalu memilih
| Dimensi | Value | Notes |
|---|---|---|
| Model ID | hy4 | Platform side ID |
| HuggingFace weights | tencent/Hunyuan-4B-Instruct | Instruct and Pretrain |
| Parameters | 4,221,757,440 | Dense |
| Architecture | HunYuanDenseV1ForCausalLM | 36 layers, hidden 3072 |
| Attention / KV heads | 32 / 8 | Head dim 128 |
| Max position | 262144 | 256K native context |
| Vocabulary | 120,818 | BF16 original about 8.4GB |
| Official 4-bit | GPTQ-Int4, AWQ-Int4 | Plus FP8 |
| Community GGUF Q4_K_M | 2.61GB | Q5_K_M 3.03GB, Q8_0 4.49GB |
| KV cache | about 144KB per token | 4K context about 0.56GB |
Untuk penerapan: hy4 memakai FP8 atau GPTQ-Int4 resmi bersama vLLM, atau GGUF Q4_K_M 2,61GB dari komunitas bersama llama.cpp dan Ollama pada kartu 6GB bahkan CPU. A13B adalah MoE 80,39 miliar parameter sehingga membutuhkan banyak kartu atau CPU offload, dan memiliki GGUF resmi Q4_K_M 48,8GB
Pertanyaan yang lebih bernilai bukan siapa yang lebih kuat melainkan apa yang dibutuhkan pekerjaan Anda: butuh alat, dokumentasi, dan pilihan siap pakai maka ikuti the cloud catalog; butuh kendali atas bobot, kuantisasi, dan data tetap di mesin sendiri maka ikuti local weights. Banyak sistem memakai keduanya dengan membagi alur berdasarkan jenis tugas
Angka parameter dan ukuran berkas dari HuggingFace API serta konfigurasi resmi, disampel November 2026
| ID model API | hy4 |
| Penyedia | Tencent Hunyuan |
| Jendela konteks | — |
Penagihan per token dalam kredit. Harga langsung di halaman harga model.
Model ini dilayani melalui API terpadu kompatibel OpenAI (auth Bearer). Endpoint: POST /api/ai/v1/chat/completions · dokumen API →
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url=" echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1"
)
response = client.chat.completions.create(
model="hy4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, introduce yourself"}
]
)
print(response.choices[0].message.content)stream = client.chat.completions.create(
model="hy4",
messages=[{"role": "user", "content": "Write a short poem about autumn"}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")curl echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "hy4",
"messages": [{"role": "user", "content": "Hello"}],
"stream": false
}'The API domain in the examples is auto-filled with this site’s injected gateway — no manual replacement needed.
Specialized audio model — not applicable.
Penagihan per token dalam kredit, diskon cache. Harga langsung di halaman harga model.
Tidak. Satu API Key AI Gateway mencakup model ini dan semua model di situs.