deploy ในเครื่องเลือก gpuvramฮาร์ดแวร์โมเดลโอเพนgguf

คู่มือเลือก GPU สำหรับรัน LLM ในเครื่อง: รันโมเดลจีนโอเพนซอร์สบนเครื่องของคุณเอง

7 พฤศจิกายน 2569by EXAIV Team

คู่มือเลือก GPU สำหรับรัน LLM ในเครื่อง

ถ้าคุณต้องการซื้อฮาร์ดแวร์เองเพื่อรันโมเดลจีนโอเพนซอร์สอย่าง Qwen, DeepSeek, GLM คำถามแรกมักเป็น "ควรซื้อ GPU อะไร" แต่มีความเข้าใจผิดที่พบบ่อยคือการดูชื่อรุ่น GPU และตารางคะแนน benchmark สำหรับการรันในเครื่อง สิ่งที่กำหนดว่า "รันได้ไหม รันที่ระดับไหน" คือ ความจุ VRAM — ชื่อรุ่นกำหนดความเร็ว ความจุกำหนดความเป็นไปได้

สรุป 30 วินาที

VRAM กำหนดขนาดโมเดลที่รันได้: 8GB รันโมเดล 7-8B แบบ quantized, 16GB รัน 14B หรือ 27B quantized ต่ำ, 24GB รัน 27B ระดับมาตรฐาน, 48GB+ จึงจะรันโมเดล 70B ได้สบาย เริ่มจากคำนวณขนาด weights จากขนาดโมเดล × ระดับ quantization บวก KV cache และ overhead เพื่อได้ VRAM เป้าหมาย แล้วจึงเลือกการ์ด

ประเด็นสำคัญ

VRAM เป็นข้อจำกัดแรกของการรันในเครื่อง ไม่ใช่ชื่อรุ่นหรือ benchmark
ขนาด weights = จำนวนพารามิเตอร์ × ไบต์ต่อพารามิเตอร์ (Q4_K_M ประมาณ 0.6 ไบต์/พารามิเตอร์)
VRAM = weights + KV cache (เพิ่มตามความยาว context) + overhead
ระดับ 8/16/24/48GB สอดคล้องกับช่วงโมเดลที่ต่างกัน — คำนวณย้อนจากโมเดลเป้าหมาย
การ์ดเป็นแค่จุดเริ่มต้น: RAM, PSU, เคส, ระบบระบายความร้อน, ค่าไฟ ต้องรวมในต้นทุนทั้งหมด
ซื้อ, เช่า GPU, และใช้ API เป็น 3 รูปแบบต้นทุน — แบ่งตามปริมาณการใช้งาน

ขั้นตอนที่ 1: คำนวณ VRAM เป้าหมาย

ก่อนเลือกการ์ด ตอบคำถามหนึ่งข้อ: จะรันโมเดลขนาดไหน ในระดับ quantization อะไร? สองพารามิเตอร์นี้กำหนดขนาด weights

วิธีประมาณ: จำนวนพารามิเตอร์ × ไบต์ต่อพารามิเตอร์ ค่าสัมประสิทธิ์ตามระดับ (ต่างกันเล็กน้อยในแต่ละโมเดล ดูขนาดไฟล์ GGUF จริงบน model card)

ระดับ	ไบต์/พารามิเตอร์	weights 27B
Q8_0	1.05	28GB
Q6_K	0.85	23GB
Q5_K_M	0.72	19GB
Q4_K_M	0.60	16GB
Q3_K_M	0.48	13GB
Q2_K	0.35	9.5GB

ทำไมใช้ Q4_K_M เป็นเกณฑ์

Q4_K_M เป็นระดับที่ชุมชนใช้มากที่สุด: ประมาณ 1 ใน 3 ของขนาด FP16 คุณภาพยอมรับได้ในงานส่วนใหญ่ ใช้เป็น "ระดับหลัก" เมื่อประมาณ VRAM เผื่อพื้นที่ขึ้น (Q5/Q6/Q8) และใช้ระดับต่ำกว่า (Q3/Q2) เป็นทางเลือกสำรองเมื่อ VRAM ไม่พอ

เพิ่มอีกสองรายการ:

KV cache — เพิ่มเชิงเส้นตามความยาว context เป็นค่าใช้จ่ายแอบแฝงที่ใหญ่ที่สุดในการ deploy แบบ context ยาว สูตรใน คำนวณ VRAM ภาคปฏิบัติ

Overhead — CUDA context, cache ของ framework, การแยกส่วน ปกติเพิ่มอีก 1-2GB

ตัวอย่าง: Qwen3.8-27B ที่ Q4_K_M (weights ~16GB) + KV cache 8K (~1-2GB) + overhead 2GB ≈ 19-20GB — การ์ด 24GB รันสบาย

ขั้นตอนที่ 2: จับคู่ระดับ VRAM

ตาราง "VRAM → โมเดลที่รันได้" (ตัวอย่างจากโมเดลจีนโอเพนหลัก ตรวจสอบตามขนาดไฟล์ GGUF จริง):

VRAM	รันได้	หมายเหตุ
8GB	7-8B Q4; 0.3-4B ทุกระดับ	ทดลอง, โมเดล edge, จำแนก
12GB	8-14B Q4; 27B บีบอัดสูง	งานสร้างสรรค์เบา
16GB	14B Q4/Q5; 27B Q3 หรือ offload บางส่วน	จุดสมดุลคุ้มค่า
24GB	27B Q4/Q5 สบาย; 32B Q4	ตัวเลือกหลักสำหรับรันในเครื่อง
32-48GB	27B Q8; 70B Q4 offload บางส่วน; MoE สบาย	คุณภาพก่อน
80GB+ / หลายการ์ด	70B-100B; จุดเริ่มสำหรับ flagship MoE	deploy ส่วนตัว

โมเดล MoE เก็บ weights ตามพารามิเตอร์ทั้งหมด

โมเดล MoE อย่าง Qwen-AgentWorld-35B-A3B เปิดใช้งานเพียง ~3B พารามิเตอร์ต่อ token ดังนั้น ความเร็วและความต้องการคำนวณใกล้เคียงโมเดล 3B — แต่ weights ทั้งหมดยังต้องเก็บตามขนาด 35B VRAM ต้องคำนวณตามพารามิเตอร์ทั้งหมด ไม่ใช่พารามิเตอร์ที่เปิดใช้งาน นี่คือความเข้าใจผิดที่พบบ่อยที่สุดในการ deploy MoE ในเครื่อง

ขั้นตอนที่ 3: เลือกการ์ดที่ VRAM เท่ากัน

เมื่อกำหนดความจุแล้ว การ์ดที่ความจุเท่ากันต่างกันที่สามจุด:

Bandwidth หน่วยความจำ — ความเร็วในการ generate (token/วินาที) ขึ้นอยู่กับ bandwidth เป็นหลัก การ์ดที่ bandwidth สองเท่าอาจเร็วกว่าเกือบสองเท่าในโมเดลเดียวกัน

การใช้ไฟและการระบายความร้อน — การ์ดใช้ไฟสูงต้องมี PSU และ airflow ที่เหมาะสม รัน 24/7 ค่าไฟและเสียงเป็นต้นทุนจริง

ความเสี่ยงการ์ดมือสอง — ตลาดมือสองมีข้อดีด้านราคา แต่การ์ดที่หน่วยความจำทำงานร้อนนานมีความเสี่ยงเสียสูงกว่า

ไม่ใช่แค่ GPU — เผื่อค่าใช้จ่ายเหล่านี้ด้วย

RAM ระบบ: ถ้า offload CPU ต้องมี RAM เพียงพอ — ขั้นต่ำ 32GB แนะนำ 64GB สำหรับ 27B ขึ้นไป
PSU: เผื่อ 30%+ จาก peak
เคส: ขนาดการ์ดยาวและระยะห่างหลายการ์ดมักถูกมองข้าม
ค่าไฟ: รัน 24/7 เป็นค่าใช้จ่ายต่อเนื่อง

ขั้นตอนที่ 4: กรณีพิเศษ

macOS unified memory: ชิป M-series ใช้ unified memory กับ GPU ได้ ชุมชนสนับสนุนการรันโมเดล quantized ดี (mlx, Ollama) เหมาะถ้าใช้ Mac อยู่แล้ว ข้อเสียคือความเร็วช้ากว่า GPU ราคาเดียวกัน และอัปเกรดไม่ได้

หลายการ์ด: llama.cpp แบ่งโมเดลตาม layer ข้ามการ์ด ไม่ต้อง interconnect พิเศษ เมื่อโมเดลเกิน 1 การ์ด (70B, flagship MoE) การ์ดกลาง 2 ใบอาจคุ้มกว่าการ์ด flagship 1 ใบ

CPU ล้วน: รันได้ถ้ามี RAM เพียงพอ แต่ช้ากว่า GPU หลายสิบเท่า เหมาะกับตรวจสอบ pipeline หรือโมเดลเล็กมาก (0.3-4B)

ขั้นตอนที่ 5: สามรูปแบบต้นทุน

การซื้อไม่ใช่ตัวเลือกเดียว แบ่งด้วยคำถามเดียว: รูปแบบการใช้งานของคุณเป็นอย่างไร?

รูปแบบ	เหมาะกับ	ลักษณะ
ซื้อ (คำนวณในเครื่อง)	ใช้บ่อย, ระยะยาว, ข้อมูลอ่อนไหว	ลงทุนครั้งเดียว + ค่าไฟ
เช่า GPU	ทดลองสั้น, เสริม peak	คิดรายชั่วโมง, ไม่ต้องดูแล
API คลาวด์	ใช้น้อย, ผันผวน, ต้องการคุณภาพสูง	คิดตาม token, ไม่ต้องดูแล

เกณฑ์: เมื่อบิล API รายเดือนเกินค่าตัดจำหน่ายการ์ดรายเดือน การซื้อเริ่มคุ้ม ดู โมเดลต้นทุนการคำนวณในเครื่อง สำหรับการวิเคราะห์เต็ม

FAQ

การตั้งค่าราคาถูกที่สุดในการรันโมเดลจีนโอเพน?

ถ้าแค่ทดลอง: การ์ด 8-12GB รันโมเดล 7-14B quantized เพียงพอ สิ่งสำคัญคือขนาดโมเดลเป้าหมาย ไม่ใช่ราคาการ์ด

VRAM สำคัญกว่ากำลังประมวลผลไหม?

ขึ้นกับเป้าหมาย VRAM กำหนดรันได้หรือไม่ กำลังและ bandwidth กำหนดความเร็ว ตอบโจทย์ VRAM ก่อน แล้วเลือก bandwidth สูงสุดในงบ

โมเดล 27B รันบนการ์ด 16GB ได้ไหม?

ได้ที่ quantization ต่ำ (Q3_K_M) หรือ offload บางส่วน แต่ความเร็วและ context จำกัด จะสบายต้อง 24GB

โมเดล MoE ประหยัด VRAM ไหม?

ไม่ MoE ประหยัดการคำนวณต่อ token แต่ weights ทั้งหมดยังต้องเก็บ — 35B-A3B คำนวณ VRAM ตาม 35B ไม่ใช่ 3B

การ์ดมือสองน่าซื้อไหม?

เป็นตัวเลือกคุ้มค่าได้ แต่ระวังความเสื่อมของหน่วยความจำจากการใช้งานร้อนนาน เน้นประกันและแหล่งที่ชัดเจน

ค่าไฟคำนวณอย่างไร?

(กำลังการ์ด + ระบบ) × ชั่วโมง/วัน × ค่าไฟ ใช้ไฟเป็นสเปกสำคัญ ไม่ใช่สิ่งเสริม

อ่านเพิ่มเติม

คำนวณ VRAM ภาคปฏิบัติ — คณิตศาสตร์โดยละเอียด
คู่มือ deploy ในเครื่องฉบับสมบูรณ์ — ตั้งแต่ตรวจฮาร์ดแวร์ถึงรวม workflow
โมเดลต้นทุนการคำนวณในเครื่อง — เปรียบเทียบสามทาง
Qwen GGUF เบื้องต้น — พื้นฐานการ deploy
เปรียบเทียบเครื่องมือ quantize GGUF — วิธีเลือกระดับ quantization

ลองคลาวด์ก่อนซื้อ

สมัคร EXAIV เพื่อทดสอบสถานการณ์ด้วยโมเดลคลาวด์ ลงทุนฮาร์ดแวร์เมื่อมั่นใจแล้วว่าคุ้ม

ดูแพ็กเกจ

← กลับไปที่บล็อก