A LITTLE SLIME. A LOT OF POSSIBILITY.

为规模化
RL 而生。

vime 是为 RL scaling 设计的 LLM 后训练框架,提供两大核心能力:

  1. 高性能训练 ↘
  2. 灵活的数据生成 ↘

直接在浏览器中探索。 准备运行?安装 vime →

01 / ↔

高性能训练

通过连接 Megatron 与 vLLM,支持各种模式的高效训练。

Megatron⇄vLLM
02 / ⌁

灵活的数据生成

通过自定义数据生成接口以及 server-based engines,实现任意训练数据生成流程。

你的数据与环境→Data Buffer

训练、rollout、自定义数据生成、奖励、验证器与环境交互,都流经同一条 training / rollout / Data Buffer 路径。

BUILT IN THE OPEN. USED AT SCALE.

从 GLM-4.5,一直到 GLM-5.3 与 GLM-5.3-Flash。

slime 持续支撑 Z.ai 历代 GLM 的 RL 后训练。了解模型的发布历程,再用同样的核心能力搭建你的实验。

准备好环境,再亲手搭起一个 RL 实验。 ↓

00 / SET UP ONCE

先装好环境,再开始探索。

用预置镜像起步。然后在下方选择模型、配置实验,带走启动脚本。

  1. 01准备运行环境
  2. 02搭建你的实验
  3. 03下载脚本,准备数据,启动
环境说明与其他平台 →

Docker · 预置完整环境

镜像已包含 Megatron、vLLM 和 vime 所需补丁。Linux x86_64 GPU 主机需准备 Git、Docker、NVIDIA 驱动,并配置好 NVIDIA Container Toolkit ↗.

Hopper / Blackwell · CUDA 13.0

1 / 在宿主机上
VIME_IMAGE=vllm/vime:latest
docker pull "$VIME_IMAGE"
git clone https://github.com/vllm-project/vime.git
cd vime
mkdir -p ../vime-data
docker run --rm -it --gpus all --ipc=host \
  --shm-size=16g --ulimit memlock=-1 --ulimit stack=67108864 \
  -v "$PWD:/root/vime" -v "$PWD/../vime-data:/data" \
  -w /root/vime "$VIME_IMAGE" /bin/bash
2 / 进入容器后
pip install -e . --no-deps
python -c "import vime, vllm, megatron.core; import torch; print('GPUs:', torch.cuda.device_count())"

代码保留在宿主机。容器内 /data 下的模型、数据和 checkpoint 存在旁边的 vime-data 目录,退出容器后仍保留;下方配置器默认使用 /data。

01 / THE EXPERIMENT BUILDER

来,搭一个你的实验。

选一个起点?
对照 A / B

将完整快照保存为 A,当前工作配置为 B。撤销 / 重做只改变 B;更新 A 是独立操作。下方始终导出 B。

03 / FOLLOW YOUR CURIOSITY

好奇,就再往前一步。

每个选择背后的论文、公式和工程细节。

01实验配置指南从 checkpoint 到第一个 reward ↗ 02拆开算法看一看GRPO · TIS · ICE-POP · R3 · SC ↗ 03看懂系统的取舍精度、异步、PD 与 HiCache ↗ 04完整文档资料库分类指南、接口与调试 ↗

04 / WHEN YOU WANT TO GO FURTHER

好的实验,也要会问问题。

展开一个问题,找到下一次测量和趁手的工具。

01 / DEBUGReward 不对,先从哪里查?+

先检查生成文本、checkpoint 加载和 chat template。保存一轮 rollout,用固定 batch 重放训练,再比较 log-prob,最后才调整算法。

Debug 与重放 →理解训推差异 →
02 / PROFILE训练太慢,时间究竟花在哪里?+

区分 rollout、reward、权重传输和训练耗时。先用 trace 找关键路径,再 profile 瓶颈引擎。使用 tools/profile_rollout.py 收集 vLLM trace,观察 prefill / decode。

性能剖析 →时间线与追踪 →指标与观测 →
03 / SCALE如何从一台机器走向多个集群?+

先划分 GPU 的归属,再根据网络选择权重传输。Prefill / decode 资源需求不同时考虑 PD;需要恢复长任务时接入持久 rollout 存储。

External engines →Delta sync →Partial / distributed async →straw →故障恢复 →
04 / EXTEND我的 Agent,需要自己的环境。+

从自定义逐样本生成函数和奖励开始。需要改变数据调度或跨 step 状态时,再替换完整 rollout 编排。

Agent RL →扩展接口 →vLLM topology →

LEARN WITHOUT LOSING YOUR PLACE