Buod ng Pamilya ng Tencent Hunyuan: Mula sa Magaan na hy4 Hanggang sa MoE Flagstone na A13B
Buod ng Pamilya ng Tencent Hunyuan: Mula sa Magaan na hy4 Hanggang sa MoE Flagship na A13B
Sa HuggingFace, ang Tencent Hunyuan ay hindi iisang linya ng modelo kundi isang product matrix: usapan sa teksto, OCR ng dokumento, paggawa ng 3D, paggawa ng video at paggawa ng larawan ay bawat isa ay hiwalay na linya, at nakalagay ang mga timbang sa dalawang organisasyon. Ang pinakamadalas na pagkakamali para sa mga bago sa Hunyuan ay hindi ang maling pagpili ng modelo kundi ang pagtingin sa maling organisasyon — ang paghahanap ng Tencent-Hunyuan ay nagbabalik lamang ng mga modelo ng larawan at walang teksto sa simula. Tinatalakay ng artikulo ito ang buong pamilya batay sa totoong pampublikong datos: ano ang ginagawa ng bawat linya, ano ang ibig sabihin ng bilang ng download, at aling quantization ang dapat piliin.
Buod sa 30 segundo
Ang dalawang pangunahing modelo sa linya ng teksto ay ang A13B (MoE flagship, may halos sampung beses na mas maraming download) at ang hy4 (magaan na 4B, ang tanging 4B-class na modelo ng Tsina na naglathala ng FP8, GPTQ at AWQ nang sabay). Sa mga linyang hindi teksto, ang HunyuanOCR ang nangunguna sa humigit-kumulang 615,000 download kada buwan, na sinusundan ng linya ng 3D (Hunyuan3D-2). Nasa organisasyong tencent ang mga modelo ng teksto, habang nasa Tencent-Hunyuan ang mga modelo ng larawan — suriin ang pangalan ng organisasyon bago mag-download.
Saan nasa timbang: pumili muna ng tamang organisasyon
Ito ang pinakamadalas na pagkakamali sa ekosistema ng Hunyuan. May dalawang organisasyon sa HuggingFace:
| Organisasyon | Nilalaman | Halimbawa na repository |
|---|---|---|
tencent | Teksto, pagsasaad, OCR, 3D, video, larawan | Hunyuan-4B-Instruct, Hunyuan-A13B-Instruct, HunyuanOCR, Hunyuan3D-2, HunyuanVideo, HunyuanImage-3.0-Instruct |
Tencent-Hunyuan | Larawan lamang | HunyuanDiT-v1.1 at v1.2, Distilled, ControlNet para sa Pose, Depth at Canny |
Ang bunga ng paghahanap sa maling organisasyon
Ang paghahanap ng Tencent-Hunyuan ay nagbabalik lamang ng mga modelo ng DiT. Didahin mo na hindi kailanman nangbukas ng Tencent ang mga modelo ng teksto at pagkatapos ay nag-install ka ng muling pag-upload ng third party na hindi malinaw ang pinagmulan at hindi kontrolado ang antas ng quantization. Para sa mga modelo ng teksto, hanapin ang Hunyuan mismo sa loob ng organisasyong tencent.
Iba pang dalawang pangalan na madaling magkamali:
- Hunyuan-MT-7B: ang
MTay machine translation, ito ay model ng pagsasaad sa maraming wika, hindi ang susunod sa linya ng 7B - Tencent-Hunyuan-Large: repository ng unang henerasyong Hunyuan, hindi na ito ang pangunahing linya
Linya ng teksto: para saan ang bawat laki
| Modelo | Antas ng parameter | Posisyon | Download sa 30 araw |
|---|---|---|---|
| Hunyuan-0.5B-Instruct | 0.5B dense | Mga device sa gilid, pag-uuri, pagtatag | humigit-kumulang 2,500 |
| Hunyuan-1.8B-Instruct | 1.8B dense | Mga assistant sa gilid, unahan ng pipeline | humigit-kumulang 2,000 |
| Hunyuan-4B-Instruct (hy4) | 4B dense | Pangunahing magaan na linya, nakatuon sa Tsina | humigit-kumulang 1,000 |
| Hunyuan-7B-Instruct | 7B dense | Pangkalahatang kakayahang ng katamtamang laki | humigit-kumulang 5,200 |
| Hunyuan-A13B-Instruct | MoE | Ang flagship ng pamilya | humigit-kumulang 68,700 |
Ang bilang ng download ay proxy para sa aktuwal na paggamit ng komunidad, hindi opisyal na rekomendasyon. Ipinapakita nito ang dalawang bagay:
- Ang A13B ang tunay na flagship ng Hunyuan — halos isang order ng magnitude sa ibabaw ng pangalawa, ibig sabihin talagang pinapatakbo ito ng mga tao sa produksyon o mabigat na personal na proyekto.
- Manipis pa ang ekosistema ng hy4 — mga 1,000 download laban sa 68,700 ng A13B. Ang halaga ng hy4 ay hindi sa sikat ng komunidad kundi sa katotohanang naglabas ang Tencent ng lahat ng tatlong format ng quantization nang sabay, mahalaga iyon kapag may partikular na kinakailangan ang inference stack mo.
Bakit pinag-uusapan pa rin ang hy4 kahit mababa ang download
Ang distribusyon ng download ay nagpapakita kung sino ang nagagawa ng mabigat na proyekto, hindi kung aling modelo ang mas maganda. Ang kaibhan ng hy4 ay nasa ibang axis: naglalabas ito ng FP8, GPTQ-Int4 at AWQ-Int4. Karamihan sa mga 4B-class na modelo ng Tsina ay nagbibigay lamang ng FP8 at ibinababa sa komunidad ang 4-bit, ngunit ibinabalik ng hy4 ang pagpipilian sa iyo.
Linyang flagship: ang MoE na disenyo ng A13B
Ang A13B ay pinakamabigat na open-text model na inilabas ng Tencent ngayon: mga 80 bilyong parameter sa kabuuan, ngunit mas kaunti ang mga parameter na aktibong ginagamit bawat token, kaya ang gastos ng inference ay malapit sa dense model na katamtaman ang laki habang ang kapasidad ng kaalaman ay naglalayon sa mas malaking dense model.
Tatlong bunga sa teknikal:
- Sumusunod ang memorya sa kabuuang parameter para sa timbang, at sa aktibong parameter para sa computation. Lahat ng kabuuang timbang ay kailangan pa ring ilagay sa memorya, at hindi maiiwasan ito ng MoE.
- May tatlong set ng opisyal na timbang: FP8, GPTQ-Int4 at isang opisyal na GGUF (
tencent/Hunyuan-A13B-Instruct-GGUF, humigit-kumulang 540 download kada buwan). Opisyal na GGUF ay bihir pa rin sa mga modelo ng Tsina. - Kailangan ng sapat na bago na bersyon ng engine: ang MoE na arkitektura ay nangangailangan ng llama.cpp o vLLM na sumusuporta sa istruktura ng expert ng Hunyuan. Lumang na bersyon ay hindi makakapag-load o maglalabas ng gibberish. Kung hindi ito tumatakbo, i-update muna ang engine bago ipinaghati ang timbang.
Matrix ng quantization: opisyal at komunidad
| Modelo | Opisyal na FP8 | Opisyal na GPTQ-Int4 | Opisyal na AWQ-Int4 | Opisyal na GGUF | GGUF ng komunidad |
|---|---|---|---|---|---|
| hy4 (4B) | Oo | Oo | Oo | Hindi | Maraming naglalaman |
| A13B | Oo | Oo | Hindi | Oo | Ilan lamang |
| Hunyuan-7B-Instruct | Oo | Hindi | Oo | Hindi | Maraming naglalaman |
Kabilang sa mga naglalaman ng GGUF ng komunidad para sa hy4 ang bartowski, mradermacher, gabriellarson, DevQuasar at Disya, at ang bersyon ni bartowski ang pinakamataas sa bilang ng download (mahigit 2,000). Kapag pumipili ng GGUF ng komunidad, hanapin ang may mataas na download, malinaw na nakasulat ang antas ng quantization, at may model card na nagsasaad ng pinagmulan ng conversion.
May iba pang landas para sa mga gumagamit ng Apple Silicon sa pamamagitan ng MLX: nagbibigay ang mlx-community ng Hunyuan-4B-Instruct-4bit, Hunyuan-A13B-Instruct-4bit at Hunyuan-MT-7B-4bit.
Pumili ng quantization sa isang pangungusap
Kung vLLM stack ang ginagamit, kunin ang opisyal na GPTQ-Int4 o AWQ-Int4; kung llama.cpp o Ollama lang ang meron, piliin ang Q4_K_M o Q5_K_M ng komunidad na pinakamataas sa download; sa Mac, gamitin ang MLX 4bit. Tatlo silang kayang tumakbo, kaya tiyakin muna ang pinakamababa bago umakyat ng baitang.
Mga linyang hindi teksto: multimodelo talaga ang Hunyuan
Karibalang malaki sa mga download ng Hunyuan ay hindi nanggagaling sa linya ng teksto:
| Linya ng produkto | Halimbawa na repository | Download sa 30 araw |
|---|---|---|
| OCR ng dokumento | HunyuanOCR | humigit-kumulang 615,000 |
| Paggawa ng 3D | Hunyuan3D-2 / 2.1 / 2mini | humigit-kumulang 319,000 / 106,000 / 96,000 |
| Paggawa ng video | HunyuanVideo | humigit-kumulang 28,700 |
| Paggawa ng larawan | HunyuanImage-3.0-Instruct | humigit-kumulang 27,400 |
Ang mga toolchain ng mga linyang ito ay hindi nagbabahagi sa anuman sa linya ng teksto:
- Ang OCR ay gumagamit ng sariling pipeline para sa pagtatakda ng dokumento, sinanay sa layout ng pahina at hindi sa teksto ng web.
- Ang 3D at video ay gumagamit ng sariling diffusion stack (may magkabilang branch ang 3D na mesh at texture), at walang pagkakatugma sa runtime ng modelo ng wika.
- Ang paggawa ng larawan ay gumagamit ng arkitekturang DiT na may sariling format ng timbang, paraan ng quantization at framework ng paghahain.
Huwag ituring ang Hunyuan bilang iisang toolchain
Ang pahayag na "patakbuhin ang mga modelo ng Hunyuan gamit ang llama.cpp" ay totoo lamang para sa linya ng teksto. Ang mga linya ng 3D at video ay may sariling mga dependency na karaniwang kinasama ang point cloud, mesh at bahagi ng rendering. Kung ang layunin mo ay bumuo ng 3D assets, ihiwalay ang pagtataya ng trabaho iyon sa halip na umasa sa konklusyon mula sa deployment ng linya ng teksto.
Paano i-deploy ang linya ng teksto
| Sitwasyon | Iminumungkahing landas |
|---|---|
| Isang GPU para sa mamahaling | Opisyal na GPTQ-Int4 o AWQ-Int4, inihahain ng vLLM |
| CPU lamang o Mac | GGUF o MLX ng komunidad kasama ang llama.cpp o Ollama |
| Panloob na serbisyo ng inference ng team | Opisyal na FP8, may pinapalugit na allowance para sa kalidad |
| Pagsasaliksik sa fine-tuning | Magsimula sa opisyal na FP8 o BF16, huwag mag-fine-tune mula sa 4-bit na file |
Ang daloy ay hindi nagbabago: mag-download mula sa HuggingFace, i-convert ang timbang kung kailangan, i-load sa inference framework, buksan ang endpoint na compatible sa OpenAI, at ituro ang umiiral na client sa bagong base URL.
Ang cloud catalog ng EXAIV ang tunay na pinagmulan
Nang isulat ang artikulo ito, wala pang Hunyuan sa cloud catalog ng EXAIV (ang mga Tsino na modelo na available ay Qwen, DeepSeek, Kimi at GLM). Ang paggamit ng Hunyuan ay nangangahulugang mag-deploy ka ng timbang sa sarili mong kapaligiran: opisyal na quantization kasama ang vLLM, o GGUF at MLX ng komunidad kasama ang llama.cpp at Ollama. May mga ID gaya ng hy3, hy4, hy3-preview at hy4-preview ang catalog ng pangunahing site ayon sa listahan na live, at hindi dapat gamitin ang pangalan ng timbang sa HuggingFace bilang API ID.
Mabilis na talaan ng pagpili
| Ang iyong sitwasyon | Pumili ng |
|---|---|
| Assistant na nasa Tsina, deployment sa gilid | hy4 (4B) |
| Napakaliit sa gilid, pag-uuri at pagtatag | Hunyuan-0.5B-Instruct |
| Kailangan ng 4-bit na pinananatili ng pinagmulan | hy4 (GPTQ-Int4 / AWQ-Int4) |
| Pinakamataas na hangganan ng kakayahan, bukas na MoE | A13B |
| Pagsasaad sa maraming wika | Hunyuan-MT-7B |
| Pag-analisa ng dokumento, pagbawi ng layout | HunyuanOCR |
| Paggawa ng 3D assets | Seri ng Hunyuan3D-2 |
| Paggawa ng video | HunyuanVideo |
| Paggawa ng larawan | HunyuanImage-3.0-Instruct |
FAQ
Saan sa HuggingFace nasa loob ang mga modelo ng teksto ng Hunyuan?
Pumili ba ako ng hy4 o A13B?
May opisyal na GGUF ba ang A13B?
May opisyal bang numero ng context window para sa Hunyuan?
Bakit mas mababa ang download ng linya ng teksto ng Hunyuan kaysa sa OCR at 3D?
Maaari ba akong tumawag sa Hunyuan sa pamamagitan ng API?
Ano ang Hunyuan-MT-7B?
Karagdagang pagbabasa
- Pahina ng modelong hy4 — ispesipikasyon, quantization matrix at kalkulasyon ng memorya
- Tala sa channel na hy4-preview — ang channel na may 1M na konteksto
- Pag-deploy ng Hunyuan hy4 at A13B — detalye ng deployment ng dalawang pangunahing linya
- Gabay sa pagpili ng modelo ng hy4 — kung paano magtatrabaho ang hy3, hy4, ang mga preview at A13B
- Pag-deploy ng hy4 gamit ang GGUF — antas ng quantization at kalkulasyon ng memorya
- Qwen kumpara sa Hunyuan — aktibidad ng ekosistema kumpara sa kumpleto ng format ng quantization
- Buod ng pamilya ng DeepSeek V4 — ibang pamilya ng Tsina na lubos na nangbukas ang timbang
- Direktoryo ng modelo — mga modelo na callable sa EXAIV ngayon
Mga pinagmulan
Ang bilang ng download ay pampublikong 30 araw na counter ng HuggingFace at nagbabago sa pagkakapoon; kinuha ang mga numero sa artikulo noong Nobyembre 2026. Sumusunod ang lisensya at espesipikasyon sa pinakabagong opisyal na model card.