快速开始

欢迎使用 vLLM Ascend 插件。本节将引导您从环境搭建到运行第一个推理任务。

快速导航

• 快速开始：使用预构建镜像运行您的第一个模型。
• 安装指南：配置驱动、CANN、Python、Docker 和源码安装环境。
• 模型教程：查找特定模型的部署说明。
• 特性教程：了解 PD 分离和上下文并行等高级特性。
• 常见问题：排查常见的部署和运行时问题。