Modelle mit Unsloth Studio exportieren

Erfahre, wie du deine Safetensor- oder LoRA-Modelldateien in GGUF oder andere Formate exportierst.

Verwenden Unsloth Studio um Modelle für die Bereitstellung, das Teilen oder die lokale Inferenz in Unsloth, llama.cpp, Ollama, vLLM und mehr nach GGUF, Safetensors oder LoRA zu exportieren, zu speichern oder zu konvertieren. Exportieren Sie einen trainierten Checkpoint oder konvertieren Sie ein beliebiges vorhandenes Modell.

Training-Lauf auswählen

Beginnen Sie, indem Sie den Training-Lauf auswählen, aus dem Sie exportieren möchten. Jeder Lauf stellt eine vollständige Trainingssitzung dar und kann mehrere Checkpoints enthalten.

Nachdem Sie einen Lauf ausgewählt haben, wählen Sie den zu exportierenden Checkpoint aus. Ein Checkpoint ist eine gespeicherte Version des Modells, die während des Trainings erstellt wurde.

Checkpoint auswählen

Spätere Checkpoints stellen in der Regel das final trainierte Modell dar, aber Sie können je nach Bedarf jeden beliebigen Checkpoint exportieren.

Exportmethoden

Abhängig von Ihrem Workflow können Sie ein zusammengeführtes Modell, LoRA-Adaptergewichte oder ein GGUF-Modell für die lokale Inferenz exportieren.

Jede Exportmethode erzeugt eine andere Version des Modells, abhängig davon, wie Sie es ausführen oder teilen möchten. Die folgende Tabelle erklärt, was jede Option exportiert.

Exporttyp

Beschreibung

Zusammengeführtes Modell

16-Bit-Modell mit dem in die Basisgewichte integrierten LoRA-Adapter.

Nur LoRA

Exportiert nur die Adaptergewichte. Erfordert das ursprüngliche Basismodell.

GGUF / llama.cpp

Konvertiert das Modell in das GGUF-Format für Unsloth / llama.cpp / Ollama / LM Studio Inferenz.

Exportieren / lokal speichern

Beim Exportieren eines Modells können Sie wählen, wo die resultierenden Dateien gespeichert werden sollen. Modelle können direkt auf Ihr Gerät heruntergeladen oder zur Bereitstellung und zum Teilen an den Hugging Face Hub übertragen werden.

Speichern Sie die exportierten Modelldateien direkt auf Ihrem Gerät. Diese Option ist nützlich, um das Modell lokal auszuführen, Dateien manuell zu verteilen oder in lokale Inferenz-Tools zu integrieren.

Zum Hub übertragen

Laden Sie das exportierte Modell auf den Hugging Face Hub hoch. Dadurch können Sie das Modell in einem zentralen Repository hosten, teilen und bereitstellen.

Sie benötigen ein Hugging-Face-Schreib-Token, um das Modell zu veröffentlichen.

Wenn Sie bereits mit der Hugging-Face-CLI authentifiziert sind, kann das Schreib-Token leer gelassen werden.

VorherigeData Recipes NächsteQwen3.8

Zuletzt aktualisiert vor 4 Monaten

War das hilfreich?