hy4หน้าโมเดล hy4: dense 4.22 พันล้านพารามิเตอร์ บริบทเนทิฟ 256K ควอนไทเซชันทางการ FP8 GPTQ-Int4 AWQ-Int4 และการคำนวณหน่วยความจำ
ความแตกต่างที่จับต้องได้มากที่สุดอยู่ที่รูปแบบน้ำหนัก: hy4 ของ Hunyuan เป็นโมเดล 4B ระดับจีนเพียงตัวเดียวที่ต้นฉบับปล่อย FP8, GPTQ-Int4 และ AWQ-Int4 พร้อมกัน ขณะที่หลายตระกูลให้เพียง FP8 แล้วปล่อยงาน 4 บิตให้ชุมชนแปลงเอง การมีทั้ง GPTQ และ AWQ หมายถึงคุณวัดผลบนสแต็กของตัวเองแล้วเลือกได้
| มิติ | Value | Notes |
|---|---|---|
| Model ID | hy4 | Platform side ID |
| HuggingFace weights | tencent/Hunyuan-4B-Instruct | Instruct and Pretrain |
| Parameters | 4,221,757,440 | Dense |
| Architecture | HunYuanDenseV1ForCausalLM | 36 layers, hidden 3072 |
| Attention / KV heads | 32 / 8 | Head dim 128 |
| Max position | 262144 | 256K native context |
| Vocabulary | 120,818 | BF16 original about 8.4GB |
| Official 4-bit | GPTQ-Int4, AWQ-Int4 | Plus FP8 |
| Community GGUF Q4_K_M | 2.61GB | Q5_K_M 3.03GB, Q8_0 4.49GB |
| KV cache | about 144KB per token | 4K context about 0.56GB |
สำหรับการ deploy: hy4 ใช้ FP8 หรือ GPTQ-Int4 ทางการคู่กับ vLLM ได้ หรือใช้ GGUF Q4_K_M ขนาด 2.61GB จากชุมชนคู่กับ llama.cpp และ Ollama บนการ์ด 6GB หรือ CPU ส่วน A13B ซึ่งเป็น MoE 80.39 พันล้านพารามิเตอร์ต้องใช้หลายการ์ดหรือ CPU offload และมี GGUF ทางการ Q4_K_M ขนาด 48.78GB
คำถามที่ควรถามไม่ใช่ว่าใครแข็งแรงกว่า แต่งานของคุณต้องการอะไร ถ้าต้องการเครื่องมือ เอกสาร และตัวเลือกสำเร็จรูปให้ไปทาง the cloud catalog ถ้าต้องการควบคุมน้ำหนัก ควอนไทเซชัน และให้ข้อมูลอยู่ในเครื่องให้ไปทาง local weights หลายระบบใช้งานทั้งคู่โดยแบ่งตามประเภทงาน
ตัวเลขพารามิเตอร์และขนาดไฟล์จากการตรวจ HuggingFace API และ config ทางการ เก็บข้อมูลเมื่อพฤศจิกายน 2026
| ชื่อโมเดล API | hy4 |
| ผู้ให้บริการ | Tencent Hunyuan |
| หน้าต่างคอนเท็กซ์ | — |
คิดค่าบริการเป็นเครดิตตามโทเค็น ราคาสดที่ หน้าราคาโมเดล.
โมเดลนี้ให้บริการผ่าน API ที่รองรับ OpenAI แบบ unified (Bearer auth) Endpoint: POST /api/ai/v1/chat/completions · เอกสาร API →
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url=" echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1"
)
response = client.chat.completions.create(
model="hy4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, introduce yourself"}
]
)
print(response.choices[0].message.content)stream = client.chat.completions.create(
model="hy4",
messages=[{"role": "user", "content": "Write a short poem about autumn"}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")curl echo exaiv.com;; *) echo https://exaiv.com;; esac)/api/ai/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "hy4",
"messages": [{"role": "user", "content": "Hello"}],
"stream": false
}'The API domain in the examples is auto-filled with this site’s injected gateway — no manual replacement needed.
Specialized audio model — not applicable.
คิดเป็นเครดิตตามโทเค็น พร้อมส่วนลดแคช ราคาสดดูที่หน้าราคาโมเดล
ไม่ต้อง API Key เดียวของ AI Gateway ใช้ได้ทุกโมเดลในเว็บ