search
RedditDiscordGitHub

box-isometricExporter des modèles avec Unsloth Studio

Apprenez à exporter vos fichiers de modèle safetensor ou LoRA vers GGUF ou d'autres formats.

Utiliser Unsloth Studio pour exporter, sauvegarder ou convertir des modèles en GGUF, Safetensors ou LoRA pour le déploiement, le partage ou l'inférence locale dans Unsloth, llama.cpp, Ollama, vLLM, et plus encore. Exportez un point de contrôle entraîné ou convertissez n'importe quel modèle existant.

1

hashtag
Sélectionner l'exécution d'entraînement

Commencez par sélectionner l'exécution d'entraînement à partir de laquelle vous souhaitez exporter. Chaque exécution représente une session d'entraînement complète et peut contenir plusieurs points de contrôle.

Après avoir choisi une exécution, sélectionnez le point de contrôle à exporter. Un point de contrôle est une version sauvegardée du modèle créée pendant l'entraînement.

2

hashtag
Sélectionner le point de contrôle

Les points de contrôle plus tardifs représentent généralement le modèle final entraîné, mais vous pouvez exporter n'importe quel point de contrôle selon vos besoins.

3

hashtag
Méthodes d'exportation

Selon votre flux de travail, vous pouvez exporter un modèle fusionné, des poids d'adaptateur LoRA, ou un modèle GGUF pour l'inférence locale.

Chaque méthode d'exportation produit une version différente du modèle selon la manière dont vous prévoyez de l'exécuter ou de le partager. Le tableau ci-dessous explique ce que chaque option exporte.

Type d'exportation
Description

Modèle fusionné

modèle 16 bits avec l'adaptateur LoRA fusionné dans les poids de base.

Uniquement LoRA

Exporte uniquement les poids de l'adaptateur. Nécessite le modèle de base original.

GGUF / llama.cpp

Convertit le modèle en format GGUF pour Unsloth / llama.cpp / Ollama / LM Studio inférence.

4

hashtag
Exporter / Sauvegarder localement

Lors de l'exportation d'un modèle, vous pouvez choisir où les fichiers résultants doivent être sauvegardés. Les modèles peuvent être téléchargés directement sur votre machine ou poussés vers le Hugging Face Hub pour l'hébergement et le partage.

Enregistrez les fichiers du modèle exporté directement sur votre machine. Cette option est utile pour exécuter le modèle localement, distribuer les fichiers manuellement ou intégrer des outils d'inférence locaux.

5

hashtag
Pousser vers le Hub

Téléversez le modèle exporté sur le Hugging Face Hub. Cela vous permet d'héberger, partager et déployer le modèle depuis un dépôt central.

Vous aurez besoin d'un jeton d'écriture Hugging Face pour publier le modèle.

circle-check

Si vous êtes déjà authentifié avec l'interface en ligne de commande Hugging Face, le jeton d'écriture peut rester vide.

PrécédentData RecipesSuivantFaster MoE Training

Mis à jour

Ce contenu vous a-t-il été utile ?