跳转至

使用 MindIE-Motor 部署 vLLM-Ascend

1. 概述

MindIE-Motor 为 vLLM-Ascend 在昇腾 NPU 上提供 预填充-解码(PD)分离PD 聚合 的一键部署。它利用 高性能调度与负载均衡,结合 RAS(可靠性、可用性与可服务性)能力,构建快速且高度稳定的推理服务。

2. 快速开始

有关快速部署说明,请参考 MindIE-Motor 快速开始