🦥Présentation d'Unsloth Studio
Exécutez et entraînez des modèles IA localement avec Unsloth Studio.
Aujourd'hui, nous lançons Unsloth Studio (Bêta) : une interface Web UI open-source sans code pour entraîner, exécuter et exporter des modèles ouverts dans une même locale interface.
Démarrage rapideFonctionnalitésGithub
Exécuter GGUF et des modèles safetensor localement sur Mac, Windows, Linux.
Entraînez plus de 500 modèles 2x plus vite avec 70% de VRAM en moins (sans perte de précision)
Exécutez et entraînez des modèles de texte, vision, TTS audio et d'embeddings
MacOS et CPU fonctionnent pour Chat inférence GGUF. Entraînement MLX bientôt disponible.
Aucun jeu de données nécessaire. Création automatique de jeux de données à partir de PDF, CSV, JSON, DOCX, TXT fichiers.
Exporter ou enregistrer votre modèle en GGUF, safetensor 16 bits, etc.
Outil d'auto-réparation appelant / recherche web + exécution de code
Ajustement automatique des paramètres d'inférence et édition des modèles de chat.
⭐ Fonctionnalités
Exécuter des modèles localement
Recherchez et exécutez des GGUF et des modèles safetensor avec appel d'outil d'auto-réparation / recherche web, ajustement automatique des paramètres d'inférence, exécution de code et APIs. Téléversez des images, documents, audio, fichiers de code.
Affrontez des modèles côte à côte. Propulsé par llama.cpp + Hugging Face, nous prenons en charge l'inférence multi-GPU et la plupart des modèles.
Entraînement sans code
Téléversez des PDF, CSV, JSON documents, ou des configurations YAML et commencez l'entraînement instantanément sur NVIDIA. Les noyaux d'Unsloth optimisent LoRA, FP8, FFT, PT sur plus de 500 modèles texte, vision, TTS/audio et d'embeddings.
Affinez les derniers LLMs comme Qwen3.5 et NVIDIA Nemotron 3. Multi-GPU fonctionne automatiquement, avec une nouvelle version à venir.
Recettes de données
Recettes de données transforme vos documents en jeux de données utilisables / synthétiques via un flux de travail en nœuds de graphe. Téléversez des fichiers non structurés ou structurés comme des PDF, CSV et JSON. Les Recettes de données Unsloth, propulsées par NVIDIA DataDesigner, convertissent automatiquement les documents dans les formats souhaités.
Observabilité
Obtenez une visibilité complète et un contrôle sur vos sessions d'entraînement. Suivez la perte d'entraînement, les normes de gradient et l'utilisation du GPU en temps réel, et personnalisez selon vos préférences.
Vous pouvez même consulter la progression de l'entraînement sur d'autres appareils comme votre téléphone.
Exporter / Enregistrer des modèles
Exportez n'importe quel modèle, y compris vos modèles affinés, vers safetensors ou GGUF pour une utilisation avec llama.cpp, vLLM, Ollama, LM Studio, et plus encore.
Conserve l'historique de vos entraînements, afin que vous puissiez revisiter des sessions, réexporter et expérimenter.
Arène de modèles
Discutez avec et comparez 2 différents modèles, tels qu'un modèle de base et un modèle affiné, pour voir comment leurs sorties diffèrent.
Chargez simplement votre premier GGUF/modèle, puis le second, et voilà ! L'inférence chargera d'abord un modèle, puis le second.
Veuillez noter qu'il s'agit de la BÊTA version d'Unsloth Studio. Attendez-vous à de nombreuses améliorations, corrections et nouvelles fonctionnalités dans les jours et semaines à venir. Un problème que nous traitons activement concerne les binaires précompilés de llama.cpp pour accélérer significativement les temps d'installation.
⚡ Démarrage rapide
Unsloth Studio fonctionne sur Windows, Linux, WSL et MacOS (chat uniquement pour le moment).
CPU : Unsloth fonctionne toujours sans GPU, mais uniquement pour Chat l'inférence.
Entraînement : Fonctionne sur GPU NVIDIA : RTX 30, 40, 50, Blackwell, DGX Spark/Station, etc.
Mac : Comme pour le CPU - le chat fonctionne uniquement pour l'instant. MLX entraînement disponible très bientôt.
À venir prochainement : Prise en charge de Apple MLX, AMD, et Intel.
Multi-GPU : Fonctionne déjà, avec une mise à niveau majeure en préparation.
Windows, MacOS, Linux, WSL :
Ou, utilisez notre image Docker: unsloth/unsloth. Lisez notre guide Docker.
La première installation peut prendre 5 à 10 minutes. C'est normal car llama.cpp doit compiler des binaires. Nous travaillons sur des binaires précompilés afin que la prochaine fois cela prenne moins de temps.
Git depuis la source :
Pour plus de détails sur l'installation, veuillez visiter la section d'installation d'Unsloth Studio . Vous pouvez également visionner le tutoriel vidéo ici.
Installation notebook Google Colab
Nous avons créé un notebook Google Colab gratuit pour que vous puissiez explorer toutes les fonctionnalités d'Unsloth sur les GPU T4 de Colab. Vous pouvez entraîner et exécuter la plupart des modèles jusqu'à 22 milliards de paramètres, et passer à un GPU plus grand pour des modèles plus volumineux. Cliquez simplement sur 'Exécuter tout' et l'interface devrait apparaître après l'installation.
La compilation de llama.cpp sur un GPU T4 prendra plus de 40 minutes, nous recommandons donc d'utiliser un GPU plus puissant pour des vitesses plus rapides.
Une fois l'installation terminée, faites défiler jusqu'à Démarrer Unsloth Studio et cliquez sur Ouvrir Unsloth Studio dans la boîte blanche affichée à gauche :
Flux de travail
Voici un flux de travail habituel d'Unsloth Studio pour vous aider à démarrer :
Lancez Studio depuis les instructions d'installation.
Chargez un modèle depuis des fichiers locaux ou une intégration prise en charge.
Importez des données d'entraînement depuis des PDF, CSV ou fichiers JSONL, ou construisez un jeu de données depuis zéro.
Nettoyez, affinez et étendez votre jeu de données dans Recettes de données.
Commencez l'entraînement avec des préréglages recommandés ou personnalisez la configuration vous-même.
Discutez avec le modèle entraîné et comparez ses sorties avec celles du modèle de base.
Enregistrez ou exportez localement vers la pile que vous utilisez déjà.
Vous pouvez lire nos approfondissements individuels pour chaque section d'Unsloth Studio :
Tutoriels vidéo
Voici un tutoriel vidéo créé par NVIDIA pour vous aider à démarrer avec Studio :
FAQ
Unsloth collecte-t-il ou stocke-t-il des données ? Nous ne collectons pas de télémétrie d'utilisation. Nous collectons uniquement les informations matérielles minimales requises pour la compatibilité, telles que le type de GPU et l'appareil (par ex. Mac). Unsloth Studio fonctionne à 100% hors ligne et localement.
Unsloth est-il maintenant sous licence AGPL-3.0 ? Non. Le paquet principal Unsloth est toujours sous licence Apache 2.0. Seuls certains composants optionnels, tels que l' interface Unsloth Studio, sont sous la licence open-source AGPL-3.0 . Unsloth dispose désormais d'une double licence où certaines parties du code sont sous licence Apache 2.0, tandis que d'autres sont sous licence AGPL-3.0. Cette structure aide à soutenir le développement continu d'Unsloth tout en gardant le projet open-source et en permettant à l'écosystème de grandir.
Le Studio ne prend-il en charge que les LLM ?
Non. Le Studio prend en charge une gamme de familles de modèles compatibles transformers , y compris les modèles texte, multimodaux, synthèse vocale, audio, embeddings, et les modèles de type BERT.
Puis-je utiliser ma propre configuration d'entraînement ? Oui. Importez une configuration YAML et le Studio pré-remplira les paramètres pertinents.
Faut-il entraîner des modèles pour utiliser l'interface ? Non, vous pouvez simplement télécharger n'importe quel GGUF ou modèle sans affiner aucun modèle.
Avenir d'Unsloth
Nous travaillons dur pour rendre l'IA open-source aussi accessible que possible. Prochainement pour Unsloth et Unsloth Studio, nous sortirons la prise en charge officielle de : multi-GPU, Apple Silicon/MLX, AMD et Intel. Rappel : il s'agit de la version BÊTA d'Unsloth Studio, attendez-vous donc à de nombreuses annonces et améliorations dans les semaines à venir. Nous travaillons également en étroite collaboration avec NVIDIA sur le support multi-GPU pour offrir la meilleure et la plus simple expérience possible.
Remerciements
Un immense merci à NVIDIA et Hugging Face pour avoir fait partie de notre lancement. Merci également à tous nos premiers testeurs bêta d'Unsloth Studio, nous apprécions vraiment votre temps et vos retours. Nous tenons aussi à remercier llama.cpp, PyTorch et open model labs pour avoir fourni l'infrastructure qui a rendu Unsloth Studio possible.
Mis à jour
Ce contenu vous a-t-il été utile ?