Tencent Hunyuan

Perbezaan paling ketara terletak pada format berat: hy4 daripada Hunyuan ialah satu-satunya model 4B kelas China yang sumbernya mengeluarkan FP8, GPTQ-Int4 dan AWQ-Int4 serentak, manakala kebanyakan keluarga lain hanya memberi FP8 lalu menyerahkan kerja 4-bit kepada komuniti. Mempunyai kedua-dua GPTQ dan AWQ bermakna anda boleh mengukur pada stack sendiri kemudian memilih

Spesifikasi

Untuk pemasangan: hy4 menggunakan FP8 atau GPTQ-Int4 rasmi bersama vLLM, atau GGUF Q4_K_M 2.61GB daripada komuniti bersama llama.cpp dan Ollama pada kad 6GB malah CPU. A13B ialah MoE 80.39 bilion parameter justeru memerlukan berbilang kad atau CPU offload, dan mempunyai GGUF rasmi Q4_K_M 48.8GB

Ringkasan 30 saat

Soalan yang lebih bernilai bukan siapa lebih kuat tetapi apa yang kerja anda perlukan: perlukan alatan, dokumentasi dan pilihan sedia ada maka ikut the cloud catalog; perlukan kawalan ke atas berat, quantization dan data kekal dalam mesin maka ikut local weights. Banyak sistem menggunakan kedua-duanya dengan membahagikan aliran mengikut jenis tugas

FAQ

Bacaan lanjutan

• Gambaran keseluruhan keluarga Tencent Hunyuan — Semua baris produk di satu tempat
• Panduan pemilihan model hy4 — Pembahagian kerja antara versi
• Pemasangan hy4 dengan GGUF — Peringkat quantization dan arahan
• Halaman model hy4 — Spesifikasi dan matriks quantization

Sumber data

• Tencent Hunyuan on HuggingFace

Angka parameter dan saiz fail daripada HuggingFace API serta konfigurasi rasmi, disampel November 2026