🛠️Unsloth-Umgebungs-Flags

Erweiterte Flags, die nützlich sein können, wenn du fehlschlagende Finetunes siehst oder Dinge ausschalten möchtest.

Umgebungsvariable	Zweck
os.environ["UNSLOTH_RETURN_LOGITS"] = "1"	Gibt zwingend Logits zurück - nützlich für die Auswertung, wenn Logits benötigt werden.
os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"	Deaktiviert den Auto-Compiler. Kann nützlich sein, um fehlerhafte Finetune-Ergebnisse zu debuggen.
os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"	Deaktiviert die schnelle Generierung für generische Modelle.
os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"	Aktiviert das Logging des Auto-Compilers - nützlich, um zu sehen, welche Funktionen kompiliert werden und welche nicht.
os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"	Auf Float16-Rechnern Float32 anstelle von Float16 Mixed Precision verwenden. Nützlich für Gemma 3.
os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"	Deaktiviert zusätzliche Funktionen.
os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"	Schaltet extrem ausführliche torch.compileProtokolle ein.
os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"	Aktiviert maximale torch.compileOptimierungen - nicht empfohlen.
os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"	Kann dies deaktivieren, um Fullgraph-Parsing zu ermöglichen.
os.environ["UNSLOTH_FULLGRAPH"] = "0"	Aktivieren torch.compile Fullgraph-Modus
os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"	Erzwingt keine Updates für unsloth-zoo

Eine weitere Möglichkeit ist, dass die von uns hochgeladenen Modell-Uploads beschädigt sind, was jedoch unwahrscheinlich ist. Versuche Folgendes:

model, tokenizer = FastVisionModel.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct",
    use_exact_model_name = True,
)