알리바바가 2월 16일에 Qwen 3.5-397B-A17B를 공개했습니다. 총 397B 파라미터에 활성화는 17B뿐인 MoE 모델인데, Apache 2.0 라이선스에 멀티모달까지 네이티브로 지원해요. GPT-5.2나 Claude 4.5 Opus에 근접하는 성능을 오픈웨이트로 쓸 수 있다는 점에서 상당히 주목할 만합니다.

핵심 스펙 요약

397B 중에 실제로 쓰이는 건 17B뿐이라 추론 비용이 엄청 낮아요. 활성 파라미터 비율이 4.3%밖에 안 됩니다.

벤치마크 비교

프론티어 모델들과 어떻게 비교되는지가 제일 궁금하실 텐데요. 주요 벤치마크를 정리했습니다.

Language (Thinking Mode)

수학/추론에서는 GPT-5.2보다 살짝 아래지만, IFBench(Instruction Following)에서 1위를 찍었고 LongBench에서도 GPT-5.2를 꽤 큰 차이로 이겼어요.

멀티모달 (Vision-Language)

멀티모달은 솔직히 인상적입니다. ZEROBench에서 전체 1위(12점), MathVista와 OCRBench도 1위예요. 특히 OCR 쪽에서 GPT-5.2를 12점 넘게 앞서는 건 꽤 큰 차이입니다.

Qwen3에서 뭐가 달라졌나

Qwen3.5는 단순 업그레이드가 아니라 아키텍처부터 바뀌었어요.

핵심 변화 3가지를 꼽자면:

1. 하이브리드 아키텍처: Gated DeltaNet(linear attention)과 일반 attention을 섞어서 추론 효율이 대폭 올랐습니다. Qwen3-Max(1T+) 대비 8.6~19배 빠른 추론 속도에 비용은 60% 절감.
2. 네이티브 멀티모달: 이전에는 별도 VL 모델이 필요했는데, 이제 텍스트·이미지·비디오를 하나의 모델에서 처리해요.
3. 201개 언어 지원: 보캡이 63% 늘어나면서 비영어 텍스트 토큰 소비가 10~60% 줄었습니다.

VRAM 요구량

MoE 모델의 가장 큰 함정이 “활성 파라미터는 적지만, 전체 파라미터는 메모리에 다 올려야 한다”는 점이에요. 양자화별 필요 메모리를 정리했습니다.

UD = Unsloth Dynamic 2.0 양자화. 중요 레이어는 8/16-bit로 유지해서 품질 손실을 최소화합니다.

어떤 하드웨어에서 돌릴 수 있나

솔직히 말해서, 개인이 로컬에서 돌리려면 Mac Studio 192GB 이상이 현실적입니다. Reddit에서 192GB RAM + 36GB VRAM(3090+3060) 조합으로 Q2 양자화 돌린 분이 ~3 tok/s 나왔다고 해요. 쓸 수는 있지만 쾌적하진 않은 수준이에요.

사용 방법

Ollama (로컬)

ollama run qwen3.5:397b

GGUF 양자화 버전은 Unsloth에서 제공합니다. llama.cpp로 직접 돌리려면:

./llama-cli \
  -hf unsloth/Qwen3.5-397B-A17B-GGUF:MXFP4_MOE \
  --ctx-size 16384 --temp 0.6

vLLM / SGLang (서버)

GPU 여러 장이 있다면 vLLM이나 SGLang으로 서빙할 수 있어요.

vllm serve Qwen/Qwen3.5-397B-A17B \
  --tensor-parallel-size 8 --max-model-len 262144

SGLang은 MTP(Multi-Token Prediction)를 지원해서 속도가 더 빠릅니다.

API (가격)

직접 돌리기 어렵다면 API가 현실적인 선택이에요.

주목할 점은 가격입니다. Alibaba Cloud 기준 input $0.11/M 토큰인데, 이건 Gemini 3 Pro 대비 약 1/18 수준이에요. 프론티어급 성능을 이 가격에 쓸 수 있다는 건 꽤 파격적입니다.

커뮤니티 반응

긍정적 반응

• MoE 효율성 감탄: “397B인데 활성화 17B? 추론 비용 면에서 엄청난 승리”
• 벤치마크 호평: “Opus 4.5, GPT-5.2에 근접한 성능”이라는 평가
• 멀티모달 강세: Screenshot-to-Code에서 Gemini 3 Pro보다 레이아웃 재현이 나았다는 후기
• 로컬 실행: Mac Studio 192GB에서 돌아간다는 점이 높은 평가
• Reddit r/LocalLLaMA에서 Unsloth GGUF 게시물이 454+ upvotes 받음

부정적 반응

• 코딩 실망: “에러 없는 코드를 한 번에 못 뽑아낸다”, Qwen3-30B보다 못한 경우도 있다는 후기
• 에이전트 코딩 약점: “에이전트 코딩에서는 경쟁력이 부족하다”
• API 속도: 출시 직후 OpenRouter에서 5-10 tok/s로 느렸음 (서버 과부하)
• LiveCodeBench 갭: Gemini 3 Pro(90.7) 대비 83.6으로 차이가 꽤 큼

전체적으로 보면 “가성비 끝판왕”이라는 평가가 지배적이지만, 순수 코딩 태스크에서는 아쉽다는 의견이 반복적으로 나오고 있어요.

결론 — 누가 쓰면 좋을까

추천하는 경우:

• 멀티모달(이미지/비디오 분석)이 필요한 서비스를 만들 때
• API 비용을 최대한 줄이면서 프론티어급 성능이 필요할 때
• 다국어 지원이 중요한 글로벌 서비스
• Mac Studio로 로컬 LLM을 돌리고 싶을 때

아쉬운 경우:

• 코딩 에이전트가 핵심인 경우 (Gemini 3 Pro나 Claude 4.5가 아직 나음)
• 최상위 수학/추론이 필요하면 GPT-5.2가 더 확실함

정리하면, Qwen 3.5는 “프론티어 모델의 8090% 성능을 1/101/18 가격에” 쓸 수 있는 모델이에요. 특히 오픈웨이트 + Apache 2.0이라 상업적으로도 자유롭게 쓸 수 있다는 점이 큰 강점입니다. 코딩이 핵심이 아니라면 충분히 메인 모델로 고려해볼 만합니다.