🔮Unsloth モデルカタログ
Unsloth のすべての LLM ディレクトリ、 ダイナミック Hugging Face の GGUF、4ビット、16ビットモデル。
DeepSeekLlamaGemmaQwenMistralPhi
GGUFs GGUF は Ollama、Open WebUI、llama.cpp のようなツールでモデルを実行できます。 Instruct（4ビット） safetensors は推論やファインチューニングに使用できます。
新着・推奨モデル：
モデル
バリアント
GGUF
Instruct（4ビット）
DeepSeek モデル：
モデル
バリアント
GGUF
Instruct（4ビット）
Llama モデル：
Gemma モデル：
Qwen モデル：
モデル
バリアント
GGUF
Instruct（4ビット）
Mistral モデル：
モデル
バリアント
GGUF
Instruct（4ビット）
Phi モデル：
その他（GLM、Orpheus、Smol、Llava 等）モデル：
モデル
バリアント
GGUF
Instruct（4ビット）
16ビットおよび8ビットの Instruct モデルは推論またはファインチューニングに使用されます：
新しいモデル：
モデル
バリアント
Instruct（16ビット）
DeepSeek モデル
Llama モデル
Gemma モデル：
Qwen モデル：
ファミリー
バリアント
Instruct（16ビット）
QVQ（プレビュー）
72 B
—
Mistral モデル：
Phi モデル：
音声合成（TTS）モデル：
ベースモデルは通常ファインチューニング目的で使用されます：
新しいモデル：
Llama モデル：
Qwen モデル：
Llama モデル：
Gemma モデル
Mistral モデル：
その他（TTS、TinyLlama）モデル：
当社の FP8 アップロードはトレーニングまたはサービング／デプロイに使用できます。
FP8 Dynamic は FP8 Block より若干高速なトレーニングと低い VRAM 使用を提供しますが、精度に小さなトレードオフがあります。
モデル
バリアント
FP8（Dynamic / Block）
最終更新
役に立ちましたか？