🛠️Unsloth-Umgebungsflags

Erweiterte Flags, die nützlich sein könnten, wenn du defekte Feinabstimmungen siehst oder Dinge abschalten möchtest.

Umgebungsvariable
Zweck

os.environ["UNSLOTH_RETURN_LOGITS"] = "1"

Gibt Logits zwangsweise zurück – nützlich für die Auswertung, wenn Logits benötigt werden.

os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"

Deaktiviert den Auto-Compiler. Könnte nützlich sein, um fehlerhafte Finetune-Ergebnisse zu debuggen.

os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"

Deaktiviert die schnelle Generierung für allgemeine Modelle.

os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"

Aktiviert das Logging des Auto-Compilers – nützlich, um zu sehen, welche Funktionen kompiliert werden oder nicht.

os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"

Auf float16-Systemen float32 statt float16-Mixed Precision verwenden. Nützlich für Gemma 3.

os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"

Deaktiviert zusätzliche Funktionen.

os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"

Aktiviert extrem ausführliche torch.compileProtokolle.

os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"

Aktiviert maximale torch.compileOptimierungen – nicht empfohlen.

os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"

Kann deaktiviert werden, um das Parsen des Fullgraph zu aktivieren.

os.environ["UNSLOTH_FULLGRAPH"] = "0"

Aktivieren torch.compile Fullgraph-Modus

os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"

Erzwingt, dass keine Updates an unsloth-zoo

Eine weitere Möglichkeit ist, dass die von uns hochgeladenen Modell-Uploads beschädigt sind, aber das ist unwahrscheinlich. Versuchen Sie Folgendes:

model, tokenizer = FastVisionModel.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct",
    use_exact_model_name = True,
)

Zuletzt aktualisiert

War das hilfreich?