🛠️Unsloth 環境フラグ

ファインチューニングが壊れる場合や設定をオフにしたい場合に役立つ上級フラグ。

環境変数
目的

os.environ["UNSLOTH_RETURN_LOGITS"] = "1"

強制的にロジットを返す — 評価時にロジットが必要な場合に便利です。

os.environ["UNSLOTH_COMPILE_DISABLE"] = "1"

自動コンパイラを無効化します。ファインチューニング結果の誤りをデバッグする際に役立つことがあります。

os.environ["UNSLOTH_DISABLE_FAST_GENERATION"] = "1"

汎用モデルの高速生成を無効にします。

os.environ["UNSLOTH_ENABLE_LOGGING"] = "1"

自動コンパイラのログ出力を有効にします — どの関数がコンパイルされているか確認するのに便利です。

os.environ["UNSLOTH_FORCE_FLOAT32"] = "1"

float16マシンでfloat16混合精度ではなくfloat32を使用します。Gemma 3で有用です。

os.environ["UNSLOTH_STUDIO_DISABLED"] = "1"

追加機能を無効にします。

os.environ["UNSLOTH_COMPILE_DEBUG"] = "1"

非常に冗長な出力を有効にします torch.compileログ。

os.environ["UNSLOTH_COMPILE_MAXIMUM"] = "0"

最大の最適化を有効にします torch.compile— 推奨されません。

os.environ["UNSLOTH_COMPILE_IGNORE_ERRORS"] = "1"

これをオフにするとフルグラフ解析を有効にできます。

os.environ["UNSLOTH_FULLGRAPH"] = "0"

有効にする torch.compile フルグラフモード

os.environ["UNSLOTH_DISABLE_AUTO_UPDATES"] = "1"

unsloth-zooへの更新を強制的に停止します unsloth-zoo

もう一つの可能性として、アップロードしたモデルが破損している可能性がありますが、可能性は低いです。次を試してください:

model, tokenizer = FastVisionModel.from_pretrained(
    "Qwen/Qwen2-VL-7B-Instruct",
    use_exact_model_name = True,
)

最終更新

役に立ちましたか?