| 80GB GPU | 推理引擎（50%） | 训练引擎（50%） |
|---|---|---|
| 模型权重 | 16GB | 16GB |
| KV Cache | 24GB | |
| 激活值、梯度、优化器状态 | 24GB |
多用途
64GB 空间
| KV Cache | 激活值、梯度、优化器状态 | 要启用此功能，只需在任何 Unsloth 导入之前，将下面内容添加到所有 RL / GRPO 训练运行中： ```python import os os.environ["UNSLOTH_VLLM_STANDBY"] = "1" ``` ## 🧪性能实验 在这里你会看到我们如何对 GRPO 的内存使用和上下文长度进行基准测试。请注意，我们会 **每个 prompt 生成 2 次，因为 GRPO 要工作**，至少需要 2 次生成来计算样本均值和方差。 **没有 2 次生成时，单个样本的标准差为 0**。这会导致使用该公式的优势值：（reward - mean）/std **变为未定义**. $$ Z=\frac{r\_i - \mu}{\sqrt{\frac{1}{n}\sum(r\_i-\mu)^2}} \\ Z\_{n=1}=\frac{r\_1 - \mu}{\sqrt{\frac{1}{1}\sum(r\_1-\mu)^2}}=\frac{0}{0}=\text{undefined} $$ 这意味着就 GRPO 而言，Qwen-3 32B 的最大上下文长度 6,144 实际上是 6,144 乘以 2 次生成，即长度 12,288。 我们下面提供了 Llama-3.1 8B 在 LoRA（16bit）和 QLoRA（4bit）上的实验：| 实验 | 配置 | 状态 | GPU 内存使用 | 备注 |
|---|---|---|---|---|
| 运行 40 步 / 40 分钟 | 14.5 GiB（由 vllm_gpu_util 设置） | 足以容纳 32K KVCache，分块大小为 2-4K，或者说 16K KVCache + 16K 分块 | |
| 40 分钟内运行 32 步 | 13.8 GiB（由…设置） | 大致足以容纳约 28K KVCache，分块大小为 2-4K，或者说 15K KVCache + 15K 分块 | |
| 模型能加载，但无法训练，因为连 batch size 为 1 都放不下 | OOM | ||
| 模型能加载，但无法训练，因为连 batch size 为 1 都放不下 | OOM | ||
| 训练正常 28 步需要 39 分钟 | 约 15.1GiB | 任何稍长一些的输入都会在 colab 上导致 OOM | |
| 训练正常 29 步需要 40 分钟 | 13GiB，但大多数时候在 10-11GB 左右 | 在相同配置下，我们这里节省了 2GiB，即 15% 的内存。对于更长的序列，这个数值还可以更高 |