🛠️Unsloth 环境标志

高级标志,若您遇到微调中断或想要关闭某些功能时可能有用。

环境变量
用途

os.environ["UNSLOTH_RETURN_LOGITS"] = "1"

强制返回logits——如果需要logits进行评估时很有用。

os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"

禁用自动编译器。用于调试不正确的微调结果可能很有用。

os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"

为通用模型禁用快速生成。

os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"

启用自动编译器日志记录——有助于查看哪些函数已被编译或未被编译。

os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"

在float16机器上使用float32而不是float16混合精度。对于Gemma 3很有用。

os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"

禁用附加功能。

os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"

开启极其详细的 torch.compile日志。

os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"

启用最大化的 torch.compile优化——不推荐。

os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"

可以关闭此项以启用全图解析。

os.environ["UNSLOTH_FULLGRAPH"] = "0"

启用 torch.compile 全图模式

os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"

强制不更新 unsloth-zoo

另一种可能性是我们上传的模型已损坏,但不太可能。尝试以下操作:

model, tokenizer = FastVisionModel.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct",
    use_exact_model_name = True,
)

最后更新于

这有帮助吗?