ภาพรวม Llama: Llama 3.3, Llama 4 Scout และขอบเขตการใช้งานในเครื่อง

This guide covers ภาพรวม Llama: Llama 3.3, Llama 4 Scout และขอบเขตการใช้งานในเครื่อง with verified repository facts, local deployment notes and the boundary between open weights and EXAIV cloud IDs.

ข้อเท็จจริงที่ตรวจสอบแล้ว

แหล่ง HuggingFace ยืนยันว่ามี weight หรือ model card แต่ไม่ได้ยืนยันว่า EXAIV ให้บริการโมเดลนั้น ยอดดาวน์โหลดเป็นสัญญาณชุมชน 30 วัน ไม่ใช่คะแนนคุณภาพ ใบอนุญาตต้องอ่านแยกตามคลัง และฟิลด์ใน config ยืนยันโครงสร้างไม่ใช่ความสามารถทุกอย่างหรือรูปแบบคำขอทั้งหมด

การใช้งานจริง

Choose a runtime that matches the format, measure memory on your own hardware, and keep the model ID, file name, licence, token counts and latency in a run log. Community GGUF files need a named publisher, a stated conversion source and a clear quantization label. The local deployment angle here is intentional: none of these repositories should be called an EXAIV cloud model unless the live catalog lists the ID.

ขอบเขต

The safest wording is local open weights, official model card, and measured behaviour on your machine. Availability and prices follow /models and /pricing. A licence tag such as apache-2.0, gemma, llama3.3 or other is a starting point for review, not legal advice.

สถานการณ์

Practical pre-flight checklist

Check the repository source, exact file format, chat template, memory peak, licence, and the request format before publishing or deploying. Do not copy a benchmark or price from a stale article. Run a fixed evaluation set after every change to quantization, adapter, runtime or routing. Keep a rollback file and record the exact model ID.

FAQ

อ่านต่อ

• Claude family overview — callable IDs
• GPT family overview — ID families
• Open overseas weights — local weights
• Mistral vs Llama vs Gemma — selection
• pricing — live credit packs

แหล่งข้อมูล

• HuggingFace model API
• EXAIV live model catalog

Parameter, download and licence data sampled in November 2026 and subject to change.

เช็กลิสต์การ deploy ในเครื่อง

ตัวเลขทั้งหมดในหน้านี้เกี่ยวกับThe Complete Local Deployment Playbook: Seven Steps from Hardware Check to Workflow Integrationตรวจสอบโดยตรงจาก HuggingFace API และ config.json ต้นฉบับของคลังที่เกี่ยวข้อง โดยเก็บข้อมูลเมื่อพฤศจิกายน 2026 ไม่มีการแต่งคะแนน benchmarks ราคา หรือชื่อคลัง สิ่งที่ config พิสูจน์ไม่ได้จะถูกระบุว่าต้องวัดเอง

ข้อมูลจำเพาะที่ตรวจสอบแล้ว

Reference table

Reference table

ตัวเลขยืนยันอะไรได้บ้าง

การแยกข้อเท็จจริงออกจากคำกล่าวอ้างสำคัญมากสำหรับคำว่าหลายโมดาเลติ การมี vision_config และ image_placeholder ใน config ทางการยืนยันได้เพียงว่าสถาปัตยกรรมเป็นแบบ conditional generation ที่รับภาพได้ ไม่ได้ยืนยันการสร้างวิดีโอ รูปแบบคำขอเฉพาะ หรือคะแนน benchmarks ใด ๆ ป้าย image-text-to-text ของ HuggingFace บอกทิศทางของข้อมูลเข้า ให้ยึด model card ทางการเป็นแหล่งสุดท้ายเสมอ

Configuration and troubleshooting

การวางแผนหน่วยความจำของ MoE ระดับล้านล้านพารามิเตอร์ใช้กฎเดียวกันคือค่าคอมพิวต์ตามพารามิเตอร์ที่ทำงานจริง แต่หน่วยความจำตามพารามิเตอร์รวม โมเดล 1T แม้ควอนไทซ์ 4 บิตยังต้องใช้น้ำหนักราว 500GB และรุ่น 2.78T ยิ่งใหญ่กว่า จึงเป็นงานสำหรับเซิร์ฟเวอร์หลายการ์ด ไม่ใช่การ์ดผู้บริโภคใบเดียว ถ้ามีการ์ดใบเดียวให้ดูตระกูลน้ำหนักเบา เส้นทางในเครื่องคือ vLLM หรือ SGLang กับน้ำหนักทางการ และควรตรวจสอบที่มาและป้ายควอนไทเซชันของไฟล์ชุมชนก่อนใช้

ขอบเขตที่ใช้งานได้จริง

บน EXAIV ให้ยึดแคตตาล็อก /models แบบเรียลไทม์เป็นหลัก ปัจจุบันเรียกใช้ได้เพียง kimi-k3 ผ่าน endpoint ที่เข้ากันได้กับ OpenAI ที่ https://exaiv.com/api/ai/v1 การเชื่อมต่อเปลี่ยนเพียง base_url, api_key และ model ส่วน streaming กับ tool calling ใช้รูปแบบ OpenAI มาตรฐาน ราคาอยู่ที่หน้า /pricing เสมอและไม่มีการเขียนตัวเลขตายตัวในบทความนี้ ควรเก็บ log ของ ID โมเดล จำนวนโทเค็น และเวลาตอบสนอง เพื่อให้การเปลี่ยนโมเดลในอนาคตมีเส้นฐานเดียวกันเปรียบเทียบได้

การแก้ปัญหาที่พบบ่อย

อาการแรกคือ 401 Unauthorized ซึ่งเกือบทุกครั้งเกิดจากคีย์หมดอายุ ใส่ผิด header หรือลืมใส่คำนำหน้า Bearer ให้ตรวจสอบค่าจากหน้าคอนโซลแล้วลองใหม่ด้วยคำขอสั้น ๆ ก่อน อย่าเพิ่งสงสัยโมเดล อาการถัดมาคือ 404 หรือข้อความว่าไม่พบโมเดล ซึ่งหมายความว่า ID ที่ส่งไปไม่มีอยู่ในแคตตาล็อก ณ เวลานั้น ให้เปิดหน้า /models เพื่อดูชื่อจริงแล้วแก้ค่า model ในโค้ด อาการ 429 คือการจำกัดอัตรา ให้เพิ่ม exponential backoff และแยกคำขอที่ทำซ้ำได้ออกจากคำขอที่ทำซ้ำไม่ได้

สำหรับ streaming อย่าลืมว่าผลลัพธ์มาเป็นชิ้นส่วน ไม่ใช่ข้อความสมบูรณ์ ฝั่ง client ต้องต่อชิ้นส่วนเหล่านั้นเข้าด้วยกันและจัดการกรณีที่ chunk สุดท้ายไม่มี content ส่วน tool calling ให้ใช้รูปแบบเดียวกับ OpenAI ทุกประการ หากเครื่องมือไม่ถูกเรียก มักเกิดจากคำอธิบายฟังก์ชันไม่ชัดเจนหรือระบบ prompt ไม่ได้อนุญาตให้ใช้เครื่องมือ มากกว่าจะเป็นข้อจำกัดของโมเดล

ต้นทุน โควตา และข้อควรระวัง

การเรียกใช้งานคิดตามจำนวนโทเค็นขาเข้าและขาออก ไม่ใช่ตามจำนวนคำขอ ดังนั้นการยัดเอกสารยาวเข้าไปทั้งเล่มทุกครั้งจะทำให้ต้นทุนสูงขึ้นอย่างรวดเร็ว วิธีที่แนะนำคือตัดหรือสรุปส่วนที่ไม่เกี่ยวข้องก่อนส่ง และใช้ streaming เฉพาะจุดที่ผู้ใช้ต้องการเห็นผลทันที ราคาและแพ็กเกจเครดิตที่เป็นปัจจุบันให้ดูที่หน้า /pricing เสมอ เพราะตัวเลขในบทความใด ๆ อาจล้าสมัยได้

ควรแยกแคชผลลัพธ์สำหรับคำถามที่ถามซ้ำ และเก็บ log ของ ID โมเดล จำนวนโทเค็น และเวลาตอบสนองไว้เป็นชุดข้อมูลสำหรับตรวจสอบย้อนหลัง เมื่อเปลี่ยนโมเดลจาก kimi-k3 ไป glm-5.3-flash หรือกลับกัน ให้รันชุดทดสอบเดิมซ้ำอีกครั้ง เพราะพฤติกรรมการเรียกเครื่องมือและความยาวคำตอบต่างกัน แม้รูปแบบคำขอจะเหมือนกันทุกประการ

คำศัพท์และรายการตรวจสอบก่อนใช้งานจริง

พารามิเตอร์รวม พารามิเตอร์ที่ทำงานจริง และ KV cache เป็นคนละปริมาณกัน พารามิเตอร์รวมคือน้ำหนักทั้งหมดที่ต้องโหลดเข้าหน่วยความจำ ส่วนพารามิเตอร์ที่ทำงานจริงคือส่วนที่ใช้คำนวณหนึ่งโทเค็น KV cache เป็นหน่วยความจำชั่วคราวที่โตตามความยาวบริบทแบบเส้นตรง ดังนั้นหน้าต่าง 1M จึงเป็นเพดานไม่ใช่ค่าที่ใช้ได้ฟรี ๆ การควอนไทเซชันลดความแม่นยำของน้ำหนักที่เก็บเพื่อให้ไฟล์เล็กลง ไม่ได้ลดจำนวนพารามิเตอร์ และ vision_config ใน config.json อธิบายสถาปัตยกรรม ไม่ใช่รูปแบบคำขอที่คุณอาจแต่งขึ้นเองได้

ก่อนนำสิ่งที่สร้างจากบันทึกนี้ไปใช้งานจริง ให้ตรวจหกอย่าง หนึ่ง อ่านตัวเลขจากแหล่งเรียลไทม์ในวันที่คุณเผยแพร่ เพราะตัวนับยอดดาวน์โหลดเปลี่ยนทุกสัปดาห์ สอง เปิดแคตตาล็อก /models แล้วยืนยันว่า ID ที่จะเรียกยังอยู่ there สาม เปิดหน้า /pricing แทนการก็อปราคาใส่แอปพลิเคชัน สี่ อย่าเขียนรูปแบบคำขอตายตัวจนกว่าจะตรวจกับเอกสารอ้างอิงทางการแล้ว ห้า บันทึก ID โมเดล จำนวนโทเค็นขาเข้าขาออก และเวลาตอบสนองด้วยชุดคำถามตัวแทน แล้วเก็บชุดนั้นไว้ไม่เปลี่ยน เพื่อให้การสลับโมเดลในภายหลังอ่านเทียบกันได้ หก อ่านสัญญาอนุญาตบน model card ก่อนใช้เชิงพาณิชย์ เพราะเงื่อนไขของผู้ให้บริการไม่ใช่ค่าเริ่มต้นที่อนุญาตกว้าง ๆ เพิ่ม exponential backoff สำหรับคำขอที่ลองใหม่ได้ ตั้ง timeout และแยก log ตามประเภทข้อผิดพลาด เพื่อให้ 401, 404 และ 429 ไม่ถูกจัดการเหมือนกัน ควรมีเส้นทางหมุนเวียนคีย์ด้วย อย่าเก็บคีย์ไว้ในโค้ด และควรมีแผนย้อนกลับเมื่อย้ายไประบบจัดการคีย์ ถ้าโมเดลโหลดได้แต่ข้อความเพี้ยน ให้สงสัยเทมเพลตการสนทนาก่อนน้ำหนัก เก็บเทมเพลตไว้คู่กับน้ำหนักเพื่อตรวจสอบร่วมกันได้ง่าย นิสัยนี้ใช้เวลาไม่กี่นาทีแต่ช่วยตัดรายงานบั๊กผิด ๆ ที่พบบ่อยที่สุดออกไปได้

FAQ

อ่านต่อ

• Kimi K3 API guide — first API call
• GLM family overview — callable catalog
• hy4 model selection guide — sizing and selection
• Claude Code third-party models — support boundary
• pricing — live credit packs

แหล่งข้อมูล

• EXAIV live model catalog

ข้อมูลพารามิเตอร์และไฟล์เก็บเมื่อพฤศจิกายน 2026 และเปลี่ยนแปลงได้ตามเวลา