| 80GB GPU | 推理引擎（50%） | 训练引擎（50%） |
|---|---|---|
| 模型权重 | 16GB | 16GB |
| KV 缓存 | 24GB | |
| 激活、梯度、优化器状态 | 24GB |
多用途
64GB 空间
| KV 缓存 | 激活、梯度、优化器状态 | 要启用此功能，只需在任何 Unsloth 导入之前将以下内容添加到所有 RL / GRPO 训练运行中： ```python import os os.environ["UNSLOTH_VLLM_STANDBY"] = "1" ``` ## 🧪性能实验 在这里您将看到我们如何为 GRPO 基准测试内存使用和上下文长度。请注意我们进行 **每个提示 2 次生成，因为为了使 GRPO 生效**，我们需要至少 2 次生成以计算样本均值和方差。 **如果没有 2 次生成，单样本的标准差为 0**。这会导致使用该值的优势 (reward - mean)/std **变得未定义**. $$ Z=\frac{r\_i - \mu}{\sqrt{\frac{1}{n}\sum(r\_i-\mu)^2}} \\ Z\_{n=1}=\frac{r\_1 - \mu}{\sqrt{\frac{1}{1}\sum(r\_1-\mu)^2}}=\frac{0}{0}=\text{undefined} $$ 这意味着就 GRPO 而言，Qwen-3 32B 的最大上下文长度 6,144 实际上是乘以 2 次生成，即长度为 12,288。 我们下面提供了针对 Llama-3.1 8B 在 LoRA（16 位）和 QLoRA（4 位）两种情况下的实验：| 实验 | 配置 | 状态 | GPU 内存使用情况 | 备注 |
|---|---|---|---|---|
| 运行 40 步 / 40 分钟 | 14.5 GiB（由 vllm_gpu_util 设置） | 足够容纳 32K KVCache，使用 2-4K 的分块，或例如 16K KVCache + 16K 分块 | |
| 在 40 分钟内运行 32 步 | 13.8 GiB（由… 设置） | 大概足够容纳约 28K 的 KVCache，使用 2-4K 的分块，或例如 15K KVCache + 15K 分块 | |
| 模型加载但无法训练，因为即使批次大小为 1 也无法放下 | OOM（内存不足） | ||
| 模型加载但无法训练，因为即使批次大小为 1 也无法放下 | OOM（内存不足） | ||
| 训练正常 28 步耗时 39 分钟 | 约 15.1 GiB | 任何稍长的输入都会在 colab 上导致 OOM | |
| 训练正常 29 步耗时 40 分钟 | 13 GiB，但大多数时间在 10–11GB 左右 | 在相同配置下，我们节省了 2 GiB，即 15% 的内存。 对更长的序列而言节省可能更高 |