Tencent Hunyuan

Perbedaan paling nyata ada pada format bobot: hy4 dari Hunyuan adalah satu-satunya model 4B kelas Tiongkok yang sumbernya merilis FP8, GPTQ-Int4, dan AWQ-Int4 sekaligus, sementara kebanyakan keluarga lain hanya memberi FP8 lalu menyerahkan 4-bit ke komunitas. Memiliki GPTQ sekaligus AWQ berarti Anda bisa mengukur di stack sendiri lalu memilih

Spesifikasi

Untuk penerapan: hy4 memakai FP8 atau GPTQ-Int4 resmi bersama vLLM, atau GGUF Q4_K_M 2,61GB dari komunitas bersama llama.cpp dan Ollama pada kartu 6GB bahkan CPU. A13B adalah MoE 80,39 miliar parameter sehingga membutuhkan banyak kartu atau CPU offload, dan memiliki GGUF resmi Q4_K_M 48,8GB

Ringkasan 30 detik

Pertanyaan yang lebih bernilai bukan siapa yang lebih kuat melainkan apa yang dibutuhkan pekerjaan Anda: butuh alat, dokumentasi, dan pilihan siap pakai maka ikuti the cloud catalog; butuh kendali atas bobot, kuantisasi, dan data tetap di mesin sendiri maka ikuti local weights. Banyak sistem memakai keduanya dengan membagi alur berdasarkan jenis tugas

FAQ

Bacaan lanjutan

• Ikhtisar keluarga Tencent Hunyuan — Semua lini produk dalam satu tempat
• Panduan pemilihan model hy4 — Pembagian kerja antar versi
• Penerapan hy4 dengan GGUF — Tingkat kuantisasi dan perintah
• Halaman model hy4 — Spesifikasi dan matriks kuantisasi

Sumber data

• Tencent Hunyuan on HuggingFace

Angka parameter dan ukuran berkas dari HuggingFace API serta konfigurasi resmi, disampel November 2026