模型教程

本节提供 vLLM Ascend 不同模型的教程。

模型教程

• Qwen3-Dense（Qwen3-0.6B/1.7B/4B/8B/14B/32B）
• Qwen-VL-Dense(Qwen3-VL-8B/32B)
• Qwen3-30B-A3B
• Qwen3-235B-A22B
• Qwen3-VL-30B-A3B-Instruct
• Qwen3-VL-235B-A22B-Instruct
• Qwen3-Coder-30B-A3B
• Qwen3-Embedding
• Qwen3-VL-Embedding
• Qwen3-Reranker
• Qwen3-VL-Reranker
• Qwen3-Next
• Qwen3-Omni-30B-A3B-Thinking
• Qwen3.5-27B 与 Qwen3.6-27B
• Qwen3.5-Dense (Qwen3.5-2B/4B/9B)
• Qwen3.5-397B-A17B
• Qwen3.6-35B-A3B
• DeepSeek-V3 与 3.1
• DeepSeek-V3.2
• DeepSeek-V4-Flash
• DeepSeek-V4-Pro
• DeepSeek-R1
• DeepSeek-OCR-2
• GLM-4.5/4.6/4.7
• GLM-5 与 GLM-5.1
• GLM-5.2
• Kimi-K2-Thinking
• Kimi-K2.5
• Kimi-K2.6
• Kimi-K3
• PaddleOCR-VL
• MiniMax-M2
• Hunyuan-A13B-Instruct
• Hy3-preview
• Minitron-8B-Base
• LLaVA-OneVision-Qwen2-0.5B-OV
• gpt-oss-120b
• Mixtral-8x7B-Instruct-v0.1
• Qwen3-ASR-1.7B
• Qwen2.5-Math-RM-72B
• InternVL3.5（38B/241B-A28B）