高级标志,若您遇到微调中断或想要关闭某些功能时可能有用。
os.environ["UNSLOTH_RETURN_LOGITS"] = "1"
强制返回logits——如果需要logits进行评估时很有用。
os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"
禁用自动编译器。用于调试不正确的微调结果可能很有用。
os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"
为通用模型禁用快速生成。
os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"
启用自动编译器日志记录——有助于查看哪些函数已被编译或未被编译。
os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"
在float16机器上使用float32而不是float16混合精度。对于Gemma 3很有用。
os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"
禁用附加功能。
os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"
开启极其详细的 torch.compile日志。
torch.compile
os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"
启用最大化的 torch.compile优化——不推荐。
os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"
可以关闭此项以启用全图解析。
os.environ["UNSLOTH_FULLGRAPH"] = "0"
启用 torch.compile 全图模式
os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"
强制不更新 unsloth-zoo
unsloth-zoo
另一种可能性是我们上传的模型已损坏,但不太可能。尝试以下操作:
model, tokenizer = FastVisionModel.from_pretrained( "Qwen/Qwen2-VL-7B-Instruct", use_exact_model_name = True, )
最后更新于18天前
这有帮助吗?