| 80GB GPU | 推理引擎（50%） | 训练引擎（50%） |
|---|---|---|
| 模型权重 | 16GB | 16GB |
| KV 缓存 | 24GB | |
| 激活值、梯度、优化器状态 | 24GB |
多用途
64GB 空间
| KV 缓存 | 激活值、梯度、优化器状态 | 要启用此功能，只需在任何 Unsloth 导入之前，将下面内容添加到所有 RL / GRPO 训练运行中： ```python import os os.environ["UNSLOTH_VLLM_STANDBY"] = "1" ``` ## 🧪性能实验 在这里你可以了解我们如何对 GRPO 的内存使用和上下文长度进行基准测试。请注意，我们 **对每个提示生成 2 次，因为 GRPO 要生效**，我们至少需要 2 次生成来计算样本均值和方差。 **如果没有 2 次生成，单个样本的标准差就是 0**。这会导致使用该项的优势函数：(reward - mean)/std **变得未定义**. $$ Z=\frac{r\_i - \mu}{\sqrt{\frac{1}{n}\sum(r\_i-\mu)^2}} \\ Z\_{n=1}=\frac{r\_1 - \mu}{\sqrt{\frac{1}{1}\sum(r\_1-\mu)^2}}=\frac{0}{0}=\text{undefined} $$ 这意味着，就 GRPO 而言，Qwen-3 32B 的最大上下文长度 6,144，实际上是 6,144 乘以 2 次生成，也就是长度 12,288。 下面我们提供 Llama-3.1 8B 在 LoRA（16bit）和 QLoRA（4bit）下的实验：.png?alt=media)
| 实验 | 配置 | 状态 | GPU 内存使用 | 备注 |
|---|---|---|---|---|
| 运行 40 步 / 40 分钟 | 14.5 GiB（由 vllm_gpu_util 设置） | 足以容纳 32K KVCache，并带有 2-4K 的 chunk，或者说 16K KVCache + 16K chunks | |
| 40 分钟内运行 32 步 | 13.8 GiB（由…设置） | 大致足以容纳约 28K KVCache，并带有 2-4K 的 chunk，或者说 15K KVCache + 15K chunks | |
| 模型可以加载，但无法训练，因为即使 batch size 为 1 也放不下 | OOM | ||
| 模型可以加载，但无法训练，因为即使 batch size 为 1 也放不下 | OOM | ||
| 训练正常 28 步耗时 39 分钟 | 约 15.1GiB | 任何稍长一点的输入都会在 colab 中导致 OOM | |
| 训练正常 29 步耗时 40 分钟 | 13GiB，但大多数时间大约在 10-11GB | 在相同配置下，我们在这里节省了 2GiB，也就是 15% 的内存。\n对于更长的序列，这个节省量可能更高 |
