🛠️Unsloth 环境标志

高级标志,当您看到微调出错或想关闭某些功能时可能会有用。

环境变量
用途

os.environ["UNSLOTH_RETURN_LOGITS"] = "1"

强制返回 logits —— 如果需要 logits 进行评估时很有用。

os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"

禁用自动编译器。用于调试微调结果不正确时可能有帮助。

os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"

为通用模型禁用快速生成。

os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"

启用自动编译器日志记录 —— 有助于查看哪些函数已编译或未编译。

os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"

在 float16 机器上使用 float32 而不是 float16 混合精度。对 Gemma 3 有用。

os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"

禁用额外功能。

os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"

开启极其详细的 torch.compile日志。

os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"

启用最大化的 torch.compile优化 —— 不建议使用。

os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"

可以关闭此项以启用 fullgraph 解析。

os.environ["UNSLOTH_FULLGRAPH"] = "0"

启用 torch.compile fullgraph 模式

os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"

强制不更新 unsloth-zoo

另一种可能性是我们上传的模型文件已损坏,但不太可能。尝试以下操作:

model, tokenizer = FastVisionModel.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct",
    use_exact_model_name = True,
)

最后更新于

这有帮助吗?