🛠️Unsloth 环境标志
如果你看到微调出现错误,或者想关闭某些功能,这些高级标志可能会有用。
环境变量
用途
model, tokenizer = FastVisionModel.from_pretrained(
"Qwen/Qwen2-VL-7B-Instruct",
use_exact_model_name = True,
)最后更新于
这有帮助吗?
如果你看到微调出现错误,或者想关闭某些功能,这些高级标志可能会有用。
os.environ["UNSLOTH_RETURN_LOGITS"] = "1"
强制返回 logits——如果需要 logits,这对评估很有用。
os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"
禁用自动编译器。对于调试错误的微调结果可能会有用。
os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"
为通用模型禁用快速生成。
os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"
启用自动编译器日志——有助于查看哪些函数被编译或未被编译。
os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"
在 float16 机器上,使用 float32 而不是 float16 混合精度。对 Gemma 3 很有用。
os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"
禁用额外功能。
os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"
开启极其详细的 torch.compile日志。
os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"
启用最大 torch.compile优化——不推荐。
os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"
可以关闭此项以启用 fullgraph 解析。
os.environ["UNSLOTH_FULLGRAPH"] = "0"
启用 torch.compile fullgraph 模式
os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"
强制不对 unsloth-zoo
另一种可能是,我们上传的模型文件可能已损坏,但可能性不大。请尝试以下操作:
model, tokenizer = FastVisionModel.from_pretrained(
"Qwen/Qwen2-VL-7B-Instruct",
use_exact_model_name = True,
)最后更新于
这有帮助吗?
这有帮助吗?

