> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/neu/studio/install.md). # Unsloth Studio-Installation Installiere Unsloth Studio manuell oder lade die separate Unsloth Desktop-App herunter. Unsloth Studio funktioniert unter Windows, Linux, WSL und MacOS. Sie sollten auf jedem Gerät denselben Installationsprozess verwenden, obwohl die Systemanforderungen je nach Gerät unterschiedlich sein können. ### Mit Unsloth Desktop installieren Der einfachste Weg, Unsloth Studio zu installieren, ist mit der nativen [Desktop-App](/docs/de/desktop.md). Laden Sie sie für Ihr Betriebssystem herunter: * [Download für macOS](https://unsloth.ai/download/mac) * [Download für Windows](https://unsloth.ai/download/windows) * [Download für Linux](https://unsloth.ai/download/linux) Der Rest dieser Seite installiert **Unsloth Studio** manuell. ### Manuelle Installation von Unsloth Studio Windows MacOS Linux & WSL Docker Entwicklerinstallation * **Mac:** Wie CPU - [Chat](/docs/de/neu/studio/chat.md#using-unsloth-studio-chat) + [Datenrezepte](/docs/de/neu/studio/data-recipe.md) funktioniert vorerst. **MLX** Das Training funktioniert jetzt! * **CPU: Unsloth funktioniert weiterhin ohne GPU**, aber für Chat + Datenrezepte. * **Training:** Funktioniert auf **NVIDIA**, **Intel**, **AMD** GPUs und Mac-Geräten ### Schnellstart {% tabs %} {% tab title="MacOS" %} #### Schritt 1: Unsloth einrichten Starten Sie das `Terminal` auf dem Mac und installieren Sie dann Unsloth, indem Sie den folgenden Befehl eingeben. ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` Unsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie **J** ein und drücken Sie `Enter` wenn Sie gefragt werden, ob Sie Unsloth jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen **8888** Port gestartet.

{% hint style="info" %} Wenn Sie sich dagegen entschieden haben, Unsloth während des Installationsprozesses zu starten, können Sie die Unsloth-App jederzeit mit `unsloth studio -p 8888` . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie `-H 0.0.0.0` zum `unsloth studio` Befehl hinzu. {% endhint %} #### Schritt 2: Unsloth starten Öffnen Sie Ihren bevorzugten Browser und gehen Sie zur `http://127.0.0.1:8888` URL. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie aufgefordert, ein neues Passwort zu erstellen. Danach sollte sich die Unsloth-App nun auf der Chat-Seite öffnen, wie unten gezeigt.

Sie können es auch mit dem folgenden Befehl starten: ```bash unsloth studio -H 0.0.0.0 -p 8888 ``` {% hint style="info" %} Wenn Sie möchten, dass Ihre Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist.\ Fügen Sie `-H 0.0.0.0` zum `unsloth studio` Befehl hinzu. {% endhint %} #### Schritt 2: Unsloth starten Öffne `http://127.0.0.1:8888` in Ihrem Browser ein. Erstellen Sie beim ersten Start ein neues Passwort, um mit der Chat-Seite fortzufahren. **Unsloth Studio** ist jetzt installiert und einsatzbereit. Die Unsloth-App sollte nun auf der Chat-Seite wie unten gezeigt geöffnet werden.

{% hint style="info" %} Wenn Sie sich dagegen entschieden haben, Unsloth während des Installationsprozesses zu starten, können Sie die Unsloth-App jederzeit mit `unsloth studio -p 8888` . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie `-H 0.0.0.0` zum `unsloth studio` Befehl hinzu. {% endhint %} #### Schritt 2: Unsloth starten Öffnen Sie Ihren bevorzugten Browser und geben Sie `http://127.0.0.1:8888` in die URL-Leiste ein. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie weitergeleitet zu `http://127.0.0.1:8888/change-password` Seite, wie unten gezeigt:

**Starten Sie Unsloth sicher mit HTTPS und Cloudflare.** Unsloth bietet jetzt eine sichere Möglichkeit, Unsloth über HTTPS mittels eines kostenlosen Cloudflare-Tunnels zu starten. Verwenden Sie das Folgende (funktioniert unter Windows, Mac & Linux): ```bash unsloth studio --secure ``` Sie können sofort mit dem Training und dem Ausführen von Modellen beginnen. Eine detailliertere Schritt-für-Schritt-Anleitung für den Einstieg finden Sie unten: {% content-ref url="/pages/bf6b637872d3a9f534daa54866ec7d33d9b369a2" %} [Get Started](/docs/de/neu/studio/start.md) {% endcontent-ref %} {% endtab %} {% endtabs %} ### Unsloth Studio aktualisieren Um Unsloth Studio zu aktualisieren, verwenden Sie dieselben Befehle wie bei der Installation: **macOS, WSL, Linux:** ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` **Windows (PowerShell):** ```powershell irm https://unsloth.ai/install.ps1 | iex ``` ## Systemanforderungen ### Fenster**s** Unsloth Studio funktioniert direkt unter Windows ohne WSL. Um Modelle zu trainieren, stellen Sie sicher, dass Ihr System diese Anforderungen erfüllt: **Anforderungen** * Windows 10 oder Windows 11 (64-Bit) * NVIDIA-GPU mit installierten Treibern * **App Installer** (enthält `winget`): [hier](https://learn.microsoft.com/en-us/windows/msix/app-installer/install-update-app-installer) * **Git**: `winget install --id Git.Git -e --source winget` * **Python**: Version 3.11 bis einschließlich unter 3.14 * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### MacOS Unsloth Studio funktioniert auf Mac-Geräten für [Chat](#run-models-locally) sowie Training und alle Funktionen. Sie können MLX-Modelle mit Unsloth ausführen. * macOS 12 Monterey oder neuer (Intel oder Apple Silicon) * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### Linux & WSL * Ubuntu 20.04+ oder ähnliche Distribution (64-Bit) * NVIDIA-GPU mit installierten Treibern * CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell) * Git: `sudo apt install git` * Python: Version 3.11 bis einschließlich unter 3.14 * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### Docker {% hint style="success" %} Unser Docker-Image funktioniert jetzt mit Unsloth! Wir arbeiten an Mac-Kompatibilität. {% endhint %} * Ziehen Sie unser neuestes Unsloth-Container-Image: `docker pull unsloth/unsloth` * Führen Sie den Container aus mit: ```bash docker run -d -e JUPYTER_PASSWORD="mypassword" \ -p 8888:8888 -p 8000:8000 -p 2222:22 \ -v $(pwd)/work:/workspace/work \ --gpus all \ unsloth/unsloth ``` Weitere Informationen finden Sie [hier](https://hub.docker.com/r/unsloth/unsloth#unsloth-docker-image). * Greifen Sie auf Ihre Studio-Instanz zu unter `http://localhost:8000` oder externer IP-Adresse `http://external_ip_address:8000/` ### Nur CPU Unsloth Studio unterstützt CPU-Geräte für [Chat](#run-models-locally) für GGUF-Modelle und [Datenrezepte](/docs/de/neu/studio/data-recipe.md) ([Export](/docs/de/neu/studio/export.md) kommt sehr bald) * Dasselbe wie die oben genannten für Linux (außer den NVIDIA-GPU-Treibern) und MacOS. ## Entwickler- / Nightly-Installationen (Erweitert) ### **Installation des Haupt-Repositorys** #### **macOS, Linux, WSL Entwicklerinstallationen:** ```bash git clone https://github.com/unslothai/unsloth cd unsloth ./install.sh --local unsloth studio -p 8888 ``` Um in einem isolierten Verzeichnis zu installieren (eigene virtuelle Umgebung, `auth/`, `studio.db`, Cache und llama.cpp-Build), setzen Sie `UNSLOTH_STUDIO_HOME` und übergeben Sie es beim Start erneut: ```bash UNSLOTH_STUDIO_HOME="$PWD/.studio" ./install.sh --local UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888 ``` Dann zum Aktualisieren : ```bash cd unsloth && git pull ./install.sh --local unsloth studio -p 8888 ``` #### **Windows PowerShell Entwicklerinstallationen:** ```powershell git clone https://github.com/unslothai/unsloth.git cd unsloth Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass .\install.ps1 --local unsloth studio -p 8888 ``` Um in einem isolierten Verzeichnis zu installieren (eigene virtuelle Umgebung, `auth/`, `studio.db`, Cache und llama.cpp-Build), setzen Sie `UNSLOTH_STUDIO_HOME` und übergeben Sie es beim Start erneut: ```powershell $env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; .\install.ps1 --local $env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; unsloth studio -p 8888 ``` Dann zum Aktualisieren : ```powershell cd unsloth; git pull .\install.ps1 --local unsloth studio -p 8888 ``` #### **Remote Zugriff: `--secure` (HTTPS-Tunnel) vs. Rohport** Standardmäßig `unsloth studio` bindet an `127.0.0.1` (nur dieser Rechner). Um von einem anderen Gerät darauf zuzugreifen, wählen Sie eine der folgenden Optionen: * `--secure` (empfohlen): bereitstellen **nur** über einen kostenlosen Cloudflare-HTTPS-Link. Unsloth bleibt an localhost gebunden und der Tunnel stellt die öffentliche URL bereit; er schlägt geschlossen fehl (startet nicht), wenn der Tunnel nicht aufgebaut werden kann, sodass der Rohport niemals offengelegt wird. ```bash unsloth studio --secure -p 8888 ``` * `-H 0.0.0.0`: den Rohport an alle Netzwerkschnittstellen binden, von überall im Netzwerk erreichbar. Verwenden Sie dies nur in einem vertrauenswürdigen Netzwerk. ```bash unsloth studio -H 0.0.0.0 -p 8888 ``` Serverseitige Tools (Websuche, Python- und Terminal-Codeausführung) laufen als Ihr Benutzer und sind standardmäßig aktiviert. Jeder, der den Server mit dem API-Schlüssel erreichen kann, kann auf diesem Rechner Code ausführen. Halten Sie daher Ihren API-Schlüssel geheim und übergeben Sie `--disable-tools` wenn Sie Unsloth öffentlich machen. ### Erweiterte Startmethoden Installationsoptionen können als Umgebungsvariablen übergeben werden. Unter macOS, Linux und WSL setzen Sie die Variable nach der Pipe, damit die Shell sie an `sh`übergibt; unter Windows setzen Sie sie mit `$env:` vor dem Weiterleiten an `iex`. PyTorch überspringen (nur GGUF-Modus): ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_NO_TORCH=1 sh ``` ```powershell $env:UNSLOTH_NO_TORCH=1; irm https://unsloth.ai/install.ps1 | iex ``` Python-Version festlegen: ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_PYTHON=3.12 sh ``` ```powershell $env:UNSLOTH_PYTHON='3.12'; irm https://unsloth.ai/install.ps1 | iex ``` An einem benutzerdefinierten Speicherort installieren mit `UNSLOTH_STUDIO_HOME`: ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_STUDIO_HOME=/abs/path sh ``` ```powershell $env:UNSLOTH_STUDIO_HOME='C:\path'; irm https://unsloth.ai/install.ps1 | iex ``` Die nativen CPU-Thread-Pools von Unsloth auf Hosts mit vielen Kernen begrenzen: `UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888`. ### Deinstallieren Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das passende Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt das Installationsverzeichnis, das Launcher-Datenverzeichnis, die Desktop-Verknüpfung und alle betriebssystemspezifischen Einträge (macOS `.app` Bundle + Launch Services auf dem Mac; Startmenü, `HKCU\Software\Unsloth` Registry-Schlüssel und Benutzer `PATH` Einträge unter Windows): * **MacOS, WSL, Linux:** {% code overflow="wrap" expandable="true" %} ```bash curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh ``` {% endcode %} * **Windows (PowerShell):** {% code overflow="wrap" expandable="true" %} ```bash irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex ``` {% endcode %} Wenn Sie nur das Installationsverzeichnis entfernen und den Launcher/die Verknüpfung für eine spätere Neuinstallation behalten möchten, können Sie stattdessen `rm -rf ~/.unsloth/studio` (Mac/Linux/WSL) oder `Remove-Item -Recurse -Force "$HOME\.unsloth\studio"` (Windows) ausführen. Der Modell-Cache unter `~/.cache/huggingface` wird von alledem nicht berührt. #### Manuelle Deinstallation Wenn du lieber nur bestimmte Teile entfernen möchtest: **1. Nur App entfernen** (behält Verlauf, Chats, Checkpoints und Exporte intakt): * **macOS, WSL, Linux:** `rm -rf ~/.unsloth/studio/unsloth_studio` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\.unsloth\studio\unsloth_studio"` **2. Unsloth vollständig entfernen** (lässt andere Unsloth-Tools intakt): * **macOS, WSL, Linux:** `rm -rf ~/.unsloth/studio` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\.unsloth\studio"` **3. Alles Unsloth-bezogene entfernen:** * **macOS, WSL, Linux:** `rm -rf ~/.unsloth` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\.unsloth"` {% hint style="warning" %} Hinweis: Schritt 3 löscht alles in Verlauf, Chats, Modell-Checkpoints und Exporten. Das kann nicht rückgängig gemacht werden. {% endhint %} **4. Verknüpfungen und symbolische Links entfernen:** **macOS:** ```shellscript rm -rf ~/Applications/Unsloth\ Studio.app ~/Desktop/Unsloth\ Studio ``` **Linux:** ```shellscript rm -f ~/.local/share/applications/unsloth-studio.desktop ~/Desktop/unsloth-studio.desktop ``` **WSL / Windows (PowerShell):** ```shellscript Remove-Item -Force "$HOME\Desktop\Unsloth Studio.lnk" Remove-Item -Force "$env:APPDATA\Microsoft\Windows\Start Menu\Programs\Unsloth Studio.lnk" ``` **5. Den CLI-Befehl entfernen:** * **macOS, Linux, WSL:** `rm -f ~/.local/bin/unsloth` * **Windows (PowerShell):** Das Installationsprogramm hat das `Scripts` Verzeichnis der venv zu Ihrem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen, suchen Sie `Path` unter Benutzervariablen und entfernen Sie den Eintrag, der auf `.unsloth\studio\...\Scripts`. {% hint style="info" %} Hinweis: Die Schritte 1-5 berühren deine heruntergeladenen HF-Modelldateien nicht. Siehe unten „Deleting cached HF model files“, wenn du diesen Speicherplatz zurückgewinnen möchtest. {% endhint %} ### **Zwischengespeicherte HF-Modelldateien löschen** Sie können alte Modelldateien entweder über das Papierkorbsymbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem Standard-Cache-Verzeichnis von Hugging Face entfernen. Standardmäßig verwendet Hugging Face `~/.cache/huggingface/hub/` unter macOS/Linux/WSL und `C:\Users\\.cache\huggingface\hub\` unter Windows. * **MacOS, Linux, WSL:** `~/.cache/huggingface/hub/` * **Windows:** `%USERPROFILE%\.cache\huggingface\hub\` Wenn `HF_HUB_CACHE` oder `HF_HOME` gesetzt ist, verwenden Sie stattdessen diesen Speicherort. Unter Linux und WSL `XDG_CACHE_HOME` kann ebenfalls das Standard-Cache-Stammverzeichnis ändern. ### Verwendung alter / vorhandener GGUF-Modelle {% columns %} {% column %} **Aktualisierung vom 1. Apr.:** Sie können jetzt einen vorhandenen Ordner auswählen, aus dem Unsloth erkennen soll. **Aktualisierung vom 27. Mär.:** Unsloth Studio erkennt jetzt **ältere / bereits vorhandene Modelle automatisch** heruntergeladen von Hugging Face, LM Studio usw. {% endcolumn %} {% column %}

{% endcolumn %} {% endcolumns %} **Manuelle Anweisungen:** Unsloth Studio erkennt Modelle, die in Ihren Hugging-Face-Hub-Cache heruntergeladen wurden `(C:\Users{your_username}.cache\huggingface\hub)`. Wenn Sie über LM Studio heruntergeladene GGUF-Modelle haben, beachten Sie, dass diese gespeichert werden in `C:\Users{your_username}.cache\lm-studio\models` ***ODER*** `C:\Users{your_username}\lm-studio\models` . Manchmal, wenn sie nicht sichtbar sind, müssen Sie diese .gguf-Dateien in Ihr Hugging-Face-Hub-Cache-Verzeichnis (oder einen anderen für llama.cpp zugänglichen Pfad) verschieben oder kopieren, damit Unsloth Studio sie laden kann. Nachdem Sie ein Modell oder einen Adapter in Unsloth feinabgestimmt haben, können Sie es nach GGUF exportieren und die lokale Inferenz mit **llama.cpp** direkt in Unsloth Chat ausführen. Unsloth Studio wird von llama.cpp und Hugging Face betrieben. ### Google-Colab-Notebook Wir haben ein [kostenloses Google-Colab-Notebook](https://colab.research.google.com/github/unslothai/unsloth/blob/main/studio/Unsloth_Studio_Colab.ipynb) erstellt, damit Sie alle Funktionen von Unsloth auf Colabs T4-GPUs ausprobieren können. Sie können die meisten Modelle mit bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicken Sie einfach auf „Run all“ und die UI sollte nach der Installation erscheinen. {% columns %} {% column %} {% embed url="" %} Sobald die Installation abgeschlossen ist, scrollen Sie zu **Unsloth Studio starten** und klicken Sie auf **Unsloth Studio öffnen** im weißen Feld links gezeigt: **Scrollen Sie weiter nach unten, um die eigentliche Benutzeroberfläche zu sehen.** {% endcolumn %} {% column %}

{% endcolumn %} {% endcolumns %} {% hint style="warning" %} Manchmal kann der Unsloth-Link einen Fehler zurückgeben. Das liegt möglicherweise daran, dass Sie Cookies deaktiviert haben oder einen Adblocker bzw. Mozilla verwenden. Sie können trotzdem auf die Benutzeroberfläche zugreifen, indem Sie unterhalb der Schaltfläche scrollen. Google Colab erwartet außerdem, dass Sie auf der Colab-Seite bleiben; wenn Inaktivität erkannt wird, kann die GPU-Sitzung beendet werden. {% endhint %} ## Fehlerbehebung

Problem	Lösung
Python-Versionsfehler	`sudo apt install python3.12 python3.12-venv` Version 3.11 bis einschließlich unter 3.14
`nvidia-smi nicht gefunden`	Installieren Sie NVIDIA-Treiber von https://www.nvidia.com/Download/index.aspx
`nvcc nicht gefunden` (CUDA)	`sudo apt install nvidia-cuda-toolkit` oder fügen Sie `/usr/local/cuda/bin` zum PATH hinzu
llama-server-Build fehlgeschlagen	Nicht kritisch, Unsloth funktioniert weiterhin, GGUF-Inferenz wird nicht verfügbar sein. Installieren Sie `cmake` und führen Sie das Setup erneut aus, um das Problem zu beheben.
`cmake nicht gefunden`	`sudo apt install cmake`
`git nicht gefunden`	`sudo apt install git`
Build fehlgeschlagen	Löschen Sie `~/.unsloth/llama.cpp` und führen Sie das Setup erneut aus

--- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/de/neu/studio/install.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.