hy4Pahina ng modelong hy4: dense na may 4.22 bilyong parameter, 256K na native na konteksto, opisyal na quantization na FP8/GPTQ-Int4/AWQ-Int4, at kalkulasyon ng memorya
Ang pinakamalinaw na pagkakaiba ay nasa format ng timbang: ang hy4 ng Hunyuan ang tanging 4B-class na modelo ng Tsina na sabay na inilalabas ang FP8, GPTQ-Int4, at AWQ-Int4 mula sa pinagmulan, samantalang karamihan ay nagbibigay lamang ng FP8 at ipinapasa ang 4-bit sa komunidad. Ang pagkakaroon ng GPTQ at AWQ ay nangangahulugang maaari kang sumukat sa sariling stack bago pumili
| Dimensyon | Value | Notes |
|---|---|---|
| Model ID | hy4 | Platform side ID |
| HuggingFace weights | tencent/Hunyuan-4B-Instruct | Instruct and Pretrain |
| Parameters | 4,221,757,440 | Dense |
| Architecture | HunYuanDenseV1ForCausalLM | 36 layers, hidden 3072 |
| Attention / KV heads | 32 / 8 | Head dim 128 |
| Max position | 262144 | 256K native context |
| Vocabulary | 120,818 | BF16 original about 8.4GB |
| Official 4-bit | GPTQ-Int4, AWQ-Int4 | Plus FP8 |
| Community GGUF Q4_K_M | 2.61GB | Q5_K_M 3.03GB, Q8_0 4.49GB |
| KV cache | about 144KB per token | 4K context about 0.56GB |
Sa pagpapatakbo: ang hy4 ay gumagamit ng opisyal na FP8 o GPTQ-Int4 kasama ang vLLM, o ng komunidad na GGUF Q4_K_M na 2.61GB kasama ang llama.cpp at Ollama sa 6GB card o maging sa CPU. Ang A13B ay MoE na may 80.39 bilyong parameter kaya nangangailangan ito ng maraming card o CPU offload, at may opisyal na GGUF Q4_K_M na 48.8GB
Ang mas mahalagang tanong ay hindi kung sino ang mas malakas kundi kung ano ang kailangan ng iyong gawain: kung kailangan mo ng mga tool, dokumentasyon, at handa nang opsyon, sundin ang the cloud catalog; kung kailangan mo ng kontrol sa timbang, quantization, at mananatili ang data sa sariling makina, sundin ang local weights. Maraming sistema ang gumagamit ng dalawa sa pamamagitan ng paghahati ayon sa uri ng gawain
Mga numero ng parameter at laki ng file mula sa HuggingFace API at opisyal na config, nakuha noong Nobyembre 2026
| API model ID | hy4 |
| Provider | Tencent Hunyuan |
| Context window | — |
Pagbabayad per token sa credits. Live na presyo sa pahina ng presyo.
Ang model na ito ay inihahain sa pamamagitan ng pinag-isang OpenAI-compatible na API (Bearer auth). Mga endpoint: POST /api/ai/v1/chat/completions · API docs →
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url=" echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1"
)
response = client.chat.completions.create(
model="hy4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, introduce yourself"}
]
)
print(response.choices[0].message.content)stream = client.chat.completions.create(
model="hy4",
messages=[{"role": "user", "content": "Write a short poem about autumn"}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")curl echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "hy4",
"messages": [{"role": "user", "content": "Hello"}],
"stream": false
}'The API domain in the examples is auto-filled with this site’s injected gateway — no manual replacement needed.
Specialized audio model — not applicable.
Per-token billing sa credits, may cache discount. Live prices sa models page.
Hindi. Isang AI Gateway API Key sakop na ang model na ito at lahat ng iba sa site.
Isang API Key, lahat ng modelo. Hindi kailanman mag-e-expire ang credits.
Gumawa ng libreng account