Qwen 모델 선택 가이드: 오픈 중국 모델 패밀리의 활용법과 로컬/클라우드 분배
Qwen 모델 선택 가이드
Qwen(통의천문)은 경량 모델부터 2.4T 파라미터 플래그십 MoE, 텍스트에서 이미지·비디오 입력까지를 아우르는, 중국 오픈 모델 중 가장 넓은 패밀리 구성을 가진 모델군 중 하나입니다. 선택지가 많을수록 "어떤 걸 써야 하나"가 어려워집니다. 이 글에서는 패밀리 구조, 로컬 GGUF와 클라우드 API의 활용법, 작업별 판단 기준을 정리합니다.
30초 요약
패밀리 선택의 본질은 "규모 × 모달리티 × 배치 형태"의 3축입니다. 일상 대화와 코드 완성은 경량 Flash 계열, 긴 문서와 어려운 추론은 대규모 모델, 이미지 입력은 VL 계열. 로컬 실행은 GGUF 양자화, 즉시 사용은 클라우드 API. 실제로 호출하는 모델 ID는 EXAIV의 /models 디렉터리 실시간 정보를 따르세요.
패밀리 구조 개관
Qwen 패밀리는 규모와 모달리티의 두 방향으로 확장되어 있습니다.
| 라인 | 대표 모델 | 활용 분야 |
|---|---|---|
| 경량 플래시 | Flash-Next 계열 | 일상 대화, 코드 완성, 저지연 |
| 중량급 | 27B | 균형 중시 로컬 추론 |
| 플래그십 MoE | 2.4T-A95B | 능력 상한이 필요한 작업 |
| 시각 언어 | VL 계열 | 이미지 입력 포함 이해 |
| 이미지 생성 | Qwen-Image 계열 | 텍스트 기반 이미지 생성·편집 |
| 에이전트 | AgentWorld 계열 | 도구 호출과 환경 시뮬레이션 |
A95B 읽는 법
2.4T-A95B에서 2.4T는 총 파라미터, A95B는 토큰당 활성화되는 파라미터(약 95B)입니다. MoE(혼합 전문가) 모델은 총 파라미터만큼 가중치를 저장하므로, 로컬 추론의 VRAM은 총 파라미터 측에서 계획합니다. 속도는 활성화 측에 가까워집니다 — 이 차이가 VRAM 산정의 가장 중요한 포인트입니다.
축 1: 작업에서 규모 역산하기
"클수록 좋다"가 아닙니다. 작업 난이도로 충분한 규모를 고르는 것이 비용 효율의 기본입니다.
| 작업 | 권장 규모 | 이유 |
|---|---|---|
| 요약, 분류, 추출 | 경량~중량 | 난이도가 낮고 속도·비용 우선 |
| 일상 대화, 코드 완성 | 경량 Flash | 낮은 지연이 체험을 결정 |
| 코드 리뷰, 계획 | 중량~대규모 | 복수 제약을 동시에 다룸 |
| 수학, 복잡한 추론 | 대규모/추론 특화 | 능력 상한이 효과 발휘 |
축 2: 모달리티로 분류
텍스트만의 작업에 멀티모달 모델을 쓸 필요는 없고, 이미지 입력이 필요한 작업에 텍스트 모델은 쓸 수 없습니다.
- 텍스트만: 일반 Qwen 텍스트 모델(GGUF 양자화가 가장 충실)
- 이미지 이해: VL 계열(추가 시각 프로세서 필요)
- 이미지 생성·편집: Qwen-Image 계열(diffusers 경유, GGUF와 별도 도구체인)
- 도구 실행·에이전트: AgentWorld 계열, 또는 tool calling에 강한 모델
이미지 생성과 텍스트 생성은 별개의 도구체인
텍스트 모델은 llama.cpp나 Ollama에서 GGUF를 읽지만, 이미지 생성 모델은 diffusers 라이브러리에서 safetensors 가중치를 읽습니다. 두자를 같은 런타임에서 돌리려고 하지 마세요. 별개의 서비스로 구축하고 비즈니스층에서 조합하는 것이 정석입니다.
축 3: 로컬 vs 클라우드
로컬 GGUF를 선택하는 조건: 데이터가 기기를 벗어날 수 없음, 오프라인 사용, 고빈도 호출로 종량 과금 회피, 양자화 등급 직접 선택.
클라우드 API를 선택하는 조건: 바로 사용, 하드웨어 운용 불필요, 탄력적 스케일 필요, 플래그십급 품질 필요.
클라우드 측 호출은 OpenAI 호환이므로 기존 SDK를 그대로 사용할 수 있습니다:
from openai import OpenAI
client = OpenAI(
api_key="당신의 API 키",
base_url="https://exaiv.com/api/ai/v1",
)
# model은 /models 디렉터리의 실시간 ID를 따름
resp = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": "이 코드를 리뷰해 주세요"}],
)
print(resp.choices[0].message.content)
모델 ID는 변동합니다
클라우드 카탈로그는 상류 업데이트에 맞춰 변화합니다. 기사에 쓰인 ID를 하드코딩하지 말고, 구현 전 반드시 /models 페이지에서 현재 이용 가능한 ID를 확인하세요. 존재하지 않는 ID를 지정하면 요청 시 model-not-found로 실패합니다.
실용적 분배 템플릿
작업의 성질로 모델과 엔드포인트를 전환하는 최소 함수입니다:
def pick_target(task):
# 기밀 데이터나 오프라인은 로컬로
if task.get("sensitive") or task.get("offline"):
return "local"
# 어려운 추론은 대규모 모델로
if task.get("complexity", 0) >= 7:
return "cloud_large"
# 그 외는 경량·고속 모델로
return "cloud_light"
로컬 분기는 자체 OpenAI 호환 엔드포인트(Ollama의 11434번이나 llama-server)를 가리키고, 클라우드 분기는 EXAIV 호환 엔드포인트를 가리킵니다. 인터페이스가 동형이므로 앱 측 변경은 base_url과 model의 2가지뿐입니다.
FAQ
Qwen을 로컬에서 실행하는 최단 경로는?
플래그십 MoE는 로컬에서 실행됩니까?
이미지 입력과 이미지 생성 중 어느 것을 써야 하나요?
클라우드 모델 ID는 어디서 확인합니까?
가격은 어디서 보나요?
Qwen과 다른 패밀리를 어떻게 조합합니까?
관련 글
- 로컬 LLM용 GPU 선택 가이드 — 하드웨어 선정
- VRAM 계산 실전 — 필요 VRAM 산정
- 로컬 배포 완전 플레이북 — 7단계
- Kimi K3 vs GLM-5.3 비교 — 재판 쌍 모델 비교
- 모델 카탈로그 — 현재 이용 가능한 ID