เลือก hy4 อย่างไร: สี่รุ่นของสาย lightweight ของ Hunyuan และที่ของ A13B
เลือก hy4 อย่างไร: สี่รุ่นของสาย lightweight ของ Hunyuan และที่ของ A13B
ชื่อโมเดลของ Hunyuan ทำให้เลือกผิดได้ง่ายมาก hy3 hy4 hy3-preview hy4-preview และ Hunyuan-A13B-Instruct ดูเหมือนญาติสนิท แต่จริง ๆ แล้วอยู่คนละระดับขนาด คนละรุ่น และคนละช่องทางเผยแพร่ เมื่อบวกกับข้อเท็จจริงที่ ID ฝั่งแพลตฟอร์มไม่ได้แมปหนึ่งต่อหนึ่งกับชื่อ weight บน HuggingFace การเลือกโมเดลจึงกลายเป็นงานสองขั้น: เข้าใจการตั้งชื่อก่อน แล้วค่อยเข้าใจงานที่ต้องทำ บทความนี้จะเรียงทุกระดับขนาดของ Hunyuan ไว้พร้อมกัน: ตำแหน่งของแต่ละรุ่น quantization ทางการ เกณฑ์หน่วยความจำ และสถานการณ์ที่มันถึงจะเป็นคำตอบที่ถูกต้อง
สรุปใน 30 วินาที
อุปกรณ์ปลายทางและ edge เลือก hy4 (4B) ถ้าหน่วยความจำพอแค่ระดับ 2B ให้เลือก 1.8B หรือ 0.5B ถ้าต้องการเพดานความสามารถที่สูงขึ้นให้เลือก A13B (MoE) ถ้าต้องการ weights 4-bit ที่ต้นฉบับดูแล ให้เลือก hy4 (GPTQ-Int4 / AWQ-Int4) ถ้าต้องการแปลภาษาให้เลือก Hunyuan-MT-7B ส่วนคำต่อท้าย preview คือช่องทางที่มีบริบทยาวกว่า ไม่ใช่รุ่นทางการที่ด้อยกว่า
ห้าระดับขนาดวางเคียงกัน
| ขนาด | รูปแบบ weight | การใช้งานทั่วไป | หน่วยความจำโดยประมาณที่ 4-bit | กิจกรรมชุมชน |
|---|---|---|---|---|
| Hunyuan-0.5B-Instruct | 0.5B dense | คลาสสิฟาย ติดแท็ก ตัดสินใจเส้นทาง | ต่ำกว่า 1GB | ราว 2,500 / เดือน |
| Hunyuan-1.8B-Instruct | 1.8B dense | ผู้ช่วยปลายทาง ต้นทางของไปป์ไลน์ | 1–2GB | ราว 2,000 / เดือน |
| Hunyuan-4B-Instruct (hy4) | 4B dense | ตัวหลักสายเบา เน้นภาษาจีน | 3–4GB | ราว 1,000 / เดือน |
| Hunyuan-7B-Instruct | 7B dense | ความสามารถทั่วไประดับกลาง | 5–6GB | ราว 5,200 / เดือน |
| Hunyuan-A13B-Instruct | MoE | flagship ของครอบครัว | 8GB ขึ้นไป | ราว 68,700 / เดือน |
ตัวเลขหน่วยความจำเป็นค่าประมาณจาก weight ที่ 4-bit การใช้งานจริงต้องบวก KV cache และค่าใช้จ่ายของ runtime วิธีคำนวณแบบละเอียดอยู่ใน hy4 GGUF local deployment
ID ของแพลตฟอร์มกับชื่อ weight เป็นคนละชั้นของการตั้งชื่อ
แคตตาล็อกของแพลตฟอร์มใช้ ID ฝั่งบริการอย่าง hy3 hy4 hy3-preview hy4-preview ส่วน weight บน HuggingFace ใช้ชื่อแบบ Hunyuan-4B-Instruct Hunyuan-4B-Pretrain พร้อมคลังย่อย -FP8 -GPTQ-Int4 -AWQ-Int4 ให้ใช้ชื่อหลังสำหรับ deploy ในเครื่อง และชื่อแรกสำหรับเรียก API การสลับสองชั้นนี้คือวิธีเสียเวลามากที่สุด
hy3 กับ hy4: สองสายเบาที่แยกจากกัน
hy3 สอดคล้องกับระดับ Hunyuan-7B (7B dense) ส่วน hy4 สอดคล้องกับระดับ Hunyuan-4B (4B dense) ความสัมพันธ์ของสองอย่างนี้ไม่ใช่ "โมเดลเดียวกันคนละขนาด" แต่เป็น สองสายเบาคนละสาย:
| มิติ | hy3 | hy4 |
|---|---|---|
| จำนวนพารามิเตอร์ | 7B dense | 4B dense |
| หน่วยความจำ (4-bit) | 5–6GB | 3–4GB |
| ป้ายบริบทในแคตตาล็อก | 256K | ปัจจุบันยังไม่ได้ระบุ |
| quantization ทางการ | FP8 / AWQ-Int4 | FP8 / GPTQ-Int4 / AWQ-Int4 |
| GGUF จากชุมชน | หลายผู้เผยแพร่ | หลายผู้เผยแพร่ โดย bartowski นำหน้า |
เลือกตามหน่วยความจำที่เหลือบนการ์ดของคุณ: ถ้าการ์ด 6GB รัน hy3 ได้โดยไม่แย่งหน่วยความจำกับงานเทรนแล้ว hy4 ให้เพดานความสามารถที่สูงกว่า แต่ถ้าการ์ดอยู่ระดับ 4GB หรือต้องแบ่งกับบริการอื่น hy4 คือทางเลือกที่สมจริงกว่า
พารามิเตอร์น้อยลงครึ่งไม่ได้แปลว่าความสามารถลดลงครึ่ง
ช่องว่างระหว่าง 4B กับ 7B จะเห็นชัดในการอ่านยาว การทำตามคำสั่งที่ซับซ้อน และความครอบคลุมของความรู้ ถ้างานคือการสกัดข้อมูลแบบมีโครงสร้างที่รูปแบบผลลัพธ์ถูกต้อง hy4 มักทำได้ใกล้เคียงกว่าที่ตัวเลขขนาดบอก ส่วนการเขียนงานยาวหรือการให้เหตุผลหลายขั้น ประโยชน์ของ 7B เป็นของจริง
คำต่อท้าย preview หมายถึงอะไร
แพลตฟอร์มมี hy3-preview และ hy4-preview เป็นคนละรายการ ไม่ใช่รุ่นทางการที่ถูกลดคุณภาพลง แต่เป็น ช่องทางเผยแพร่คนละแบบ:
| ID | ป้ายบริบทตามแคตตาล็อก | เหมาะกับ |
|---|---|---|
| hy3-preview | 256K | ช่องทางที่นิ่งและต้องการบริบทยาว |
| hy4-preview | 1,048,576 (1M) | บริบทยาวมาก: ทั้ง repository ประวัติการประชุมยาว ชุด PDF ขนาดใหญ่ |
ป้าย 1M คือสัญลักษณ์ที่เห็นชัดที่สุดของ hy4-preview แต่ต้องระวังสองเรื่อง:
- บริบทยาวไม่ได้แปลว่ายาวแล้วใช้ได้ดี ความแม่นยำในการเรียกค้น การเจือจางความสนใจ และต้นทุนการ infer ที่ระดับ 1M ต้องวัดแยก หน้าต่างใหญ่เป็นเพียงเพดาน
- ป้ายเปลี่ยนได้ ความยาวบริบทและตัวคูณการคิดเงินเปลี่ยนตามแคตตาล็อกเรียลไทม์ ตัวเลขในบทความสะท้อนเฉพาะสถานะตอนเก็บข้อมูล
วิธีอ่าน ID ที่มี preview อย่างถูกต้อง
มองว่าเป็น "ช่องทางนี้โฆษณาบริบทที่ยาวกว่า" ไม่ใช่ "บิลด์ทดลองที่ไม่เสถียร" ว่ามันช่วยได้หรือไม่ขึ้นอยู่กับว่างานของคุณต้องยัดเนื้อหาขนาดเมกะไบต์เข้าไปใน prompt จริงหรือไม่ ถ้าไม่จำเป็น ช่องทาง hy4 ทางการมักสบายใจกว่า
เลือกระหว่าง quantization ทางการสามแบบของ hy4
hy4 เป็นโมเดล Hunyuan เพียงตัวเดียวในระดับ 4B ที่เผยแพร่ quantization ครบทั้งสามแบบ:
| quantization | การสูญเสียคุณภาพ | เหมาะกับ |
|---|---|---|
| FP8 | แทบไม่มี | vLLM / SGLang ทีมที่มาตรฐานสแต็กเดียวกัน |
| GPTQ-Int4 | น้อย | ระบบนิเวศ AutoGPTQ, vLLM |
| AWQ-Int4 | น้อย และคำนึงถึง activation | ระบบนิเวศ AutoAWQ, vLLM |
GPTQ กับ AWQ เป็นอัลกอริทึม 4-bit คนละแบบ GPTQ ชดเชยความคลาดเคลื่อนรายชั้น ส่วน AWQ ปกป้องช่องสัญญาณสำคัญตามการกระจายของ activation บนโมเดลเดียวกันผลลัพธ์มักต่างกัน คุณค่าของการเผยแพร่ทั้งสองแบบคือคุณวัดแล้วเลือกเองได้
เส้นทาง GGUF จากชุมชนก็ครบถ้วน: bartowski, mradermacher, gabriellarson, DevQuasar และ Disya มี conversion ของ hy4 ทั้งหมด โดยเวอร์ชันของ bartowski ดาวน์โหลดมากที่สุด (มากกว่า 2,000) ผู้ใช้ Apple Silicon ยังเลือกใช้ไฟล์ 4bit ของ mlx-community หรือเวอร์ชัน MNN ของ taobao-mnn สำหรับงานปลายทางได้
อย่า fine-tune จากไฟล์ที่ quantize เป็น 4-bit
fine-tune ต้องใช้ gradient ซึ่ง weight ที่ถูก quantize จะจำกัดเส้นทางการฝึก เริ่มการทดลอง fine-tune จาก FP8 หรือ BF16 ทางการ ทำให้ขั้นตอนสำเร็จแล้วค่อย quantize เพื่อนำไปใช้งานจริง
hy4 กับ A13B แบ่งงานกันอย่างไร
นี่คือคู่ที่ถูกถามมากที่สุดในครอบครัว Hunyuan
| มิติ | hy4 | A13B |
|---|---|---|
| โครงสร้าง | 4B dense | MoE |
| หน่วยความจำไปอยู่ที่ไหน | ที่ตัว weight เอง | weight รวมทั้งหมดยังต้องอยู่ในหน่วยความจำ |
| ต้นทุนการ infer | นิ่งและคาดเดาได้ | คิดตามพารามิเตอร์ที่ถูกกระตุ้น จึงยังคุ้มอยู่ |
| เพดานความสามารถ | ระดับคุ้มค่า สำหรับงานเบาภาษาจีน | flagship ระดับครอบครัว แข็งแรงกว่าในงานซับซ้อน |
| quantization ทางการ | FP8 / GPTQ-Int4 / AWQ-Int4 | FP8 / GPTQ-Int4 / GGUF ทางการ |
| เหมาะกับ | ปลายทาง ฝังตัว งานเบาปริมาณมาก | แชททั่วไป การให้เหตุผลซับซ้อน งานวิจัย |
หลักการตัดสินง่ายมาก: ความหนาแน่นของคุณค่าต่อหนึ่ง request กำหนดระดับโมเดล ถ้า request ที่ถูกลงมีความหมายเพราะปริมาณมหาศาล เศรษศาสตร์ของ hy4 จะชนะ ถ้าปริมาณไม่มากแต่แต่ละ request สำคัญมาก ความสามารถของ A13B คุ้มค่ากว่า
เลือกตามฮาร์ดแวร์
| ฮาร์ดแวร์ของคุณ | ควรเลือก | เหตุผล |
|---|---|---|
| VRAM 4GB หรือใช้ CPU ล้วน | Hunyuan-1.8B-Instruct | hy4 ที่ 4-bit บวก KV cache จะชิดขอบมาก |
| VRAM 6–8GB | hy4 (Q4_K_M / Q5_K_M) | โซนสบายของ 4B ที่ 4-bit เหลือพื้นที่ให้ KV cache |
| 12GB ขึ้นไป | hy4 ความแม่นยำสูง หรือ hy3 | ขึ้นอยู่กับความหนาแน่นของคุณค่าในงาน |
| 16GB ขึ้นไป | A13B (GGUF 4-bit) | weight รวมของ MoE เริ่มที่ 8GB |
| Apple Silicon | hy4 MLX 4bit หรือ A13B MLX 4bit | หน่วยความจำรวมทำให้ประโยชน์ของ 4-bit ตรงที่สุด |
| infer ด้วย CPU ล้วน | GGUF Q4/Q5 ของ hy4 | 4B คือเพดานที่สมจริงสำหรับ CPU |
แผนผังงาน
| งานของคุณ | ควรเลือก |
|---|---|
| ผู้ช่วยภาษาจีน ฝังตัว ปลายทาง | hy4 |
| แยกคลาสสิฟาย กำหนดเส้นทาง | Hunyuan-0.5B-Instruct |
| เติมโค้ด เขียนฟังก์ชันเล็ก | hy4 |
| วิเคราะห์เอกสารยาว (หลักแสน token) | hy4-preview (ช่องทาง 1M) |
| แปลภาษาหลายภาษา | Hunyuan-MT-7B |
| ให้เหตุผลซับซ้อน คำถามเชิงวิจัย | A13B |
| ผลลัพธ์แบบมีโครงสร้างเข้มงวด | hy4 (4B ทำตามข้อกำหนดรูปแบบได้ดี) |
สามข้อผิดพลาดที่พบบ่อย
- เอา hy4 ไปทำงานของ A13B — ชี้โมเดล 4B ไปหาโจทย์ที่ต้องให้เหตุผลหลายขั้น แล้วสรุปว่า "Hunyuan ไม่ดี" นั่นคือการเลือกโมเดลผิด ไม่ใช่ปัญหาของโมเดล
- มองช่องทาง preview ว่าไม่เสถียร — มันคือรายการแยกที่มีป้ายบริบทยาวกว่า ความสามารถขึ้นอยู่กับงานของคุณ ไม่ใช่คำต่อท้าย
- ส่งชื่อ weight บน HuggingFace ไปเป็น API ID — deploy ในเครื่องใช้
Hunyuan-4B-Instructเรียก API ผ่านแพลตฟอร์มใช้ ID จริงจากแคตตาล็อก สองชั้นนี้ห้ามปนกัน
FAQ
hy4 กับ Hunyuan-4B-Instruct คือสิ่งเดียวกันไหม?
hy3-preview ต่างจาก hy3 อย่างไร?
hy4 ที่ 4-bit ควรใช้ GPTQ หรือ AWQ?
การ์ด 4GB รัน hy4 ได้ไหม?
hy4 รองรับภาพหรือไม่?
เรียก Hunyuan ผ่าน API ได้ไหม?
อ่านต่อ
- หน้าโมเดล hy4 — สเปก เมทริกซ์ quantization และการคำนวณหน่วยความจำ
- คำอธิบายช่องทาง hy4-preview — ช่องทางบริบท 1M
- ภาพรวมครอบครัว Tencent Hunyuan — ทุกผลิตภัณฑ์ของ Hunyuan ในที่เดียว
- hy4 และ A13B สำหรับ local deployment — รายละเอียดการ deploy สองสายหลัก
- hy4 GGUF local deployment — ระดับ quantization การคำนวณหน่วยความจำและคำสั่ง
- MoE ของ Hunyuan A13B — การตัดสินใจเชิงวิศวกรรมของ MoE
- hy4 เทียบ Qwen3.8-Flash — เทียบกันในระดับเบา
- ไดเรกทอรีโมเดล — โมเดลที่เรียกใช้ได้บน EXAIV ตอนนี้
แหล่งข้อมูล
- Tencent Hunyuan บน HuggingFace
- ป้ายบริบทและช่องทางตามแคตตาล็อกโมเดลเรียลไทม์ของแพลตฟอร์ม
ยอดดาวน์โหลดเป็นตัวเลขสาธารณะของ HuggingFace ในช่วง 30 วัน เก็บข้อมูลเมื่อเดือนพฤศจิกายน 2026 สเปกและสิทธิ์ใช้งานเป็นไปตาม model card ทางการ