Tencent Hunyuan

Ang pinakamalinaw na pagkakaiba ay nasa format ng timbang: ang hy4 ng Hunyuan ang tanging 4B-class na modelo ng Tsina na sabay na inilalabas ang FP8, GPTQ-Int4, at AWQ-Int4 mula sa pinagmulan, samantalang karamihan ay nagbibigay lamang ng FP8 at ipinapasa ang 4-bit sa komunidad. Ang pagkakaroon ng GPTQ at AWQ ay nangangahulugang maaari kang sumukat sa sariling stack bago pumili

Mga ispesipikasyon

Sa pagpapatakbo: ang hy4 ay gumagamit ng opisyal na FP8 o GPTQ-Int4 kasama ang vLLM, o ng komunidad na GGUF Q4_K_M na 2.61GB kasama ang llama.cpp at Ollama sa 6GB card o maging sa CPU. Ang A13B ay MoE na may 80.39 bilyong parameter kaya nangangailangan ito ng maraming card o CPU offload, at may opisyal na GGUF Q4_K_M na 48.8GB

Buod sa 30 segundo

Ang mas mahalagang tanong ay hindi kung sino ang mas malakas kundi kung ano ang kailangan ng iyong gawain: kung kailangan mo ng mga tool, dokumentasyon, at handa nang opsyon, sundin ang the cloud catalog; kung kailangan mo ng kontrol sa timbang, quantization, at mananatili ang data sa sariling makina, sundin ang local weights. Maraming sistema ang gumagamit ng dalawa sa pamamagitan ng paghahati ayon sa uri ng gawain

FAQ

Karagdagang pagbabasa

• Buod ng pamilya ng Tencent Hunyuan — Lahat ng linya ng produkto sa iisang lugar
• Gabay sa pagpili ng hy4 — Paghahati ng trabaho sa pagitan ng mga bersyon
• Pag-deploy ng hy4 gamit ang GGUF — Mga antas ng quantization at mga utos
• Pahina ng modelong hy4 — Ispesipikasyon at matrix ng quantization

Mga pinagmulan

• Tencent Hunyuan on HuggingFace

Mga numero ng parameter at laki ng file mula sa HuggingFace API at opisyal na config, nakuha noong Nobyembre 2026