Tencent Hunyuan

Khác biệt dễ thấy nhất nằm ở định dạng trọng số: hy4 của Hunyuan là model 4B cấp Trung Quốc duy nhất được nguồn phát hành đồng thời FP8, GPTQ-Int4 và AWQ-Int4, trong khi hầu hết các gia đình khác chỉ có FP8 rồi giao phần 4-bit cho cộng đồng chuyển đổi. Có cả GPTQ lẫn AWQ nghĩa là bạn có thể đo trên stack của mình rồi chọn

Thông số kỹ thuật

Về triển khai: hy4 dùng FP8 hoặc GPTQ-Int4 chính thức với vLLM, hoặc GGUF Q4_K_M 2.61GB từ cộng đồng với llama.cpp và Ollama trên card 6GB hay thậm chí CPU. A13B là MoE 80,39 tỷ tham số nên cần nhiều card hoặc CPU offload, và có GGUF chính thức Q4_K_M 48,8GB

Tóm tắt 30 giây

Câu hỏi đáng giá không phải ai mạnh hơn mà là công việc của bạn cần gì: cần công cụ, tài liệu và lựa chọn có sẵn thì đi theo the cloud catalog; cần kiểm soát trọng số, quantization và giữ dữ liệu trong máy thì đi theo local weights. Nhiều hệ thống dùng cả hai và phân luồng theo loại tác vụ

FAQ

Đọc tiếp

• Tổng quan gia đình Tencent Hunyuan — Mọi dòng sản phẩm trong một bài
• Hướng dẫn chọn model hy4 — Phân chia giữa các phiên bản
• Triển khai hy4 với GGUF — Mức quantization và lệnh
• Trang model hy4 — Thông số và ma trận quantization

Nguồn dữ liệu

• Tencent Hunyuan on HuggingFace

Số liệu tham số và kích thước file từ HuggingFace API và config chính thức, lấy mẫu tháng 11 năm 2026