Erweiterte Flags, die nützlich sein könnten, wenn du defekte Feinabstimmungen siehst oder Dinge abschalten möchtest.
os.environ["UNSLOTH_RETURN_LOGITS"] = "1"
Gibt Logits zwangsweise zurück – nützlich für die Auswertung, wenn Logits benötigt werden.
os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"
Deaktiviert den Auto-Compiler. Könnte nützlich sein, um fehlerhafte Finetune-Ergebnisse zu debuggen.
os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"
Deaktiviert die schnelle Generierung für allgemeine Modelle.
os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"
Aktiviert das Logging des Auto-Compilers – nützlich, um zu sehen, welche Funktionen kompiliert werden oder nicht.
os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"
Auf float16-Systemen float32 statt float16-Mixed Precision verwenden. Nützlich für Gemma 3.
os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"
Deaktiviert zusätzliche Funktionen.
os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"
Aktiviert extrem ausführliche torch.compileProtokolle.
os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"
Aktiviert maximale torch.compileOptimierungen – nicht empfohlen.
os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"
Kann deaktiviert werden, um das Parsen des Fullgraph zu aktivieren.
os.environ["UNSLOTH_FULLGRAPH"] = "0"
Aktivieren torch.compile Fullgraph-Modus
os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"
Erzwingt, dass keine Updates an unsloth-zoo
Eine weitere Möglichkeit ist, dass die von uns hochgeladenen Modell-Uploads beschädigt sind, aber das ist unwahrscheinlich. Versuchen Sie Folgendes:
model, tokenizer = FastVisionModel.from_pretrained(
"Qwen/Qwen2-VL-7B-Instruct",
use_exact_model_name = True,
)Zuletzt aktualisiert
War das hilfreich?
War das hilfreich?