> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/neu/studio/install.md). # Unsloth-Studio-Installation Unsloth Studio funktioniert unter Windows, Linux, WSL und MacOS. Sie sollten auf jedem Gerät denselben Installationsprozess verwenden, auch wenn die Systemanforderungen je nach Gerät unterschiedlich sein können. ### Mit Unsloth Desktop installieren **Der einfachste Weg, Unsloth Studio zu installieren, ist die native Desktop-App. Lade sie für dein Betriebssystem herunter:** * :apple: [Download für macOS](https://unsloth.ai/download/mac) * :windows: [Download für Windows](https://unsloth.ai/download/windows) * :linux: [Download für Linux](https://unsloth.ai/download/linux) Der Rest dieser Seite installiert **Unsloth Studio** manuell. ### Manuelle Installation von Unsloth Studio WindowsmacOSLinux & WSLDockerEntwicklerinstallation * **Mac:** Wie CPU - [Chat](/docs/de/neu/studio/chat.md#using-unsloth-studio-chat) + [Datenrezepte](/docs/de/neu/studio/data-recipe.md) funktioniert vorerst. **MLX** Training funktioniert jetzt! * **CPU: Unsloth funktioniert weiterhin ohne GPU**, aber für Chat + Data Recipes. * **Training:** Läuft auf **NVIDIA**, **Intel**, **AMD** GPUs und Mac-Geräte ### Schnellstart {% tabs %} {% tab title="macOS" %} #### Schritt 1: Unsloth einrichten Starten Sie das `Terminal` auf dem Mac und installieren Sie dann Unsloth, indem Sie den folgenden Befehl eingeben. ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` Unsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie **Y** und drücken Sie `Enter` wenn Sie gefragt werden, ob Sie Unsloth jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen **8888** Port gestartet.
{% hint style="info" %} Wenn Sie sich entschieden haben, Unsloth während des Installationsprozesses nicht zu starten, können Sie die Unsloth-App jederzeit mit `unsloth studio -p 8888` . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie `-H 0.0.0.0` zu `unsloth studio` Befehl mit lokalen Modellen zu verbinden. {% endhint %} #### Schritt 2: Unsloth starten Öffnen Sie Ihren bevorzugten Browser und rufen Sie die `http://127.0.0.1:8888` URL auf. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie aufgefordert, ein neues Passwort zu erstellen. Danach sollte sich die Unsloth-App nun auf der Chat-Seite öffnen, wie unten gezeigt.
**Starten Sie Unsloth sicher mit HTTPS und Cloudflare.** Unsloth bietet jetzt eine sichere Möglichkeit, Unsloth über HTTPS über einen kostenlosen Cloudflare-Tunnel zu starten. Verwenden Sie Folgendes (funktioniert unter Windows, Mac & Linux): ```bash unsloth studio --secure ``` Sie können sofort mit dem Training und Ausführen von Modellen beginnen. Unten finden Sie unsere ausführlichere Schritt-für-Schritt-Anleitung zum Einstieg: {% content-ref url="/pages/bf6b637872d3a9f534daa54866ec7d33d9b369a2" %} [Get Started](/docs/de/neu/studio/start.md) {% endcontent-ref %} {% endtab %} {% tab title="Windows" %} #### Schritt 1: Unsloth einrichten Öffnen Sie das Startmenü, suchen Sie nach `PowerShell`, und starten Sie es. Kopieren und fügen Sie den folgenden Installationsbefehl ein: ```powershell irm https://unsloth.ai/install.ps1 | iex ``` die Installation beginnt automatisch. Nachdem die Installation abgeschlossen ist, fragt PowerShell, ob Sie Unsloth Studio starten möchten**.**
Sie können es auch mit dem folgenden Befehl starten: ```bash unsloth studio -H 0.0.0.0 -p 8888 ``` {% hint style="info" %} Wenn Sie möchten, dass Ihre Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist.\ Fügen Sie `-H 0.0.0.0` zu `unsloth studio` Befehl mit lokalen Modellen zu verbinden. {% endhint %} #### Schritt 2: Unsloth starten Öffne `http://127.0.0.1:8888` in Ihrem Browser ein. Beim ersten Start erstellen Sie ein neues Passwort, um zur Chat-Seite fortzufahren. **Unsloth Studio** ist jetzt installiert und einsatzbereit. Die Unsloth-App sollte sich nun auf der Chat-Seite öffnen, wie unten gezeigt.
**Starten Sie Unsloth sicher mit HTTPS und Cloudflare.** Unsloth bietet jetzt eine sichere Möglichkeit, Unsloth über HTTPS über einen kostenlosen Cloudflare-Tunnel zu starten. Verwenden Sie Folgendes (funktioniert unter Windows, Mac & Linux): ```bash unsloth studio --secure ``` Sie können sofort mit dem Training und Ausführen von Modellen beginnen. Unten finden Sie unsere ausführlichere Schritt-für-Schritt-Anleitung zum Einstieg: {% content-ref url="/pages/bf6b637872d3a9f534daa54866ec7d33d9b369a2" %} [Get Started](/docs/de/neu/studio/start.md) {% endcontent-ref %} {% endtab %} {% tab title="Linux, WSL" %} #### Schritt 1: Unsloth einrichten {% tabs %} {% tab title="Linux" %} Öffnen Sie Ihre Terminalanwendung. Sie können sie durch Drücken von `Ctrl + Alt + T`, oder indem Sie nach `Terminal` im Anwendungsmenü Ihres Systems suchen. {% endtab %} {% tab title="WSL" %} Klicken Sie auf das Windows-Startmenü, geben Sie den Namen Ihrer installierten Distribution ein (z. B. `Ubuntu`), und öffnen Sie sie dann. {% hint style="warning" %} Unter **WSL**, stellen Sie sicher, dass Ihre **NVIDIA-Treiber** sind installiert auf **Windows** (nicht innerhalb von WSL) und dass das **CUDA-Toolkit** im WSL-Distribution installiert ist. Weitere Details finden Sie unten in den Systemanforderungen. {% endhint %} {% endtab %} {% endtabs %} Zum Installieren kopieren und führen Sie den Installationsbefehl aus: ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` Dann: 1. Klicken Sie in das Terminalfenster 2. Fügen Sie den Befehl mit `Ctrl + Shift + V` 3. Drücken Sie `Enter` Unsloth beginnt wie unten gezeigt mit der Einrichtung der Umgebung und der Installation der erforderlichen Pakete. Geben Sie **Y** und drücken Sie `Enter` wenn Sie gefragt werden, ob Sie Unsloth jetzt starten möchten. Dadurch wird Unsloth auf Ihrem lokalen **8888** Port gestartet.
{% hint style="info" %} Wenn Sie sich entschieden haben, Unsloth während des Installationsprozesses nicht zu starten, können Sie die Unsloth-App jederzeit mit `unsloth studio -p 8888` . Wenn Sie möchten, dass Ihre Unsloth-Instanz für Clients außerhalb Ihres PCs/Computers erreichbar ist, fügen Sie `-H 0.0.0.0` zu `unsloth studio` Befehl mit lokalen Modellen zu verbinden. {% endhint %} #### Schritt 2: Unsloth starten Öffnen Sie Ihren bevorzugten Browser und geben Sie `http://127.0.0.1:8888` in das URL-Feld ein. Wenn Sie Unsloth zum ersten Mal installieren, werden Sie weitergeleitet zu `http://127.0.0.1:8888/change-password` Seite, wie unten gezeigt:
**Starten Sie Unsloth sicher mit HTTPS und Cloudflare.** Unsloth bietet jetzt eine sichere Möglichkeit, Unsloth über HTTPS über einen kostenlosen Cloudflare-Tunnel zu starten. Verwenden Sie Folgendes (funktioniert unter Windows, Mac & Linux): ```bash unsloth studio --secure ``` Sie können sofort mit dem Training und Ausführen von Modellen beginnen. Unten finden Sie unsere ausführlichere Schritt-für-Schritt-Anleitung zum Einstieg: {% content-ref url="/pages/bf6b637872d3a9f534daa54866ec7d33d9b369a2" %} [Get Started](/docs/de/neu/studio/start.md) {% endcontent-ref %} {% endtab %} {% endtabs %} ### Unsloth Studio aktualisieren Um Unsloth Studio zu aktualisieren, verwenden Sie dieselben Befehle wie bei der Installation: **macOS, WSL, Linux:** ```bash curl -fsSL https://unsloth.ai/install.sh | sh ``` **Windows (PowerShell):** ```powershell irm https://unsloth.ai/install.ps1 | iex ``` ## Systemanforderungen ### :windows: Fenster**s** Unsloth Studio funktioniert direkt unter Windows ohne WSL. Um Modelle zu trainieren, stellen Sie sicher, dass Ihr System diese Anforderungen erfüllt: **Anforderungen** * Windows 10 oder Windows 11 (64-bit) * NVIDIA-GPU mit installierten Treibern * **App-Installer** (enthält `winget`): [hier](https://learn.microsoft.com/en-us/windows/msix/app-installer/install-update-app-installer) * **Git**: `winget install --id Git.Git -e --source winget` * **Python**: Version 3.11 bis, aber nicht einschließlich, 3.14 * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### :apple: macOS Unsloth Studio funktioniert auf Mac-Geräten für [Chat](#run-models-locally) und Training sowie alle Funktionen. Sie können MLX-Modelle mit Unsloth ausführen. * macOS 12 Monterey oder neuer (Intel oder Apple Silicon) * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### :linux: Linux & WSL * Ubuntu 20.04+ oder ähnliche Distribution (64-bit) * NVIDIA-GPU mit installierten Treibern * CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell) * Git: `sudo apt install git` * Python: Version 3.11 bis, aber nicht einschließlich, 3.14 * Arbeiten Sie in einer Python-Umgebung wie **uv**, **venv**, oder **conda/mamba** ### :docker: Docker {% hint style="success" %} Unser Docker-Image funktioniert jetzt mit Unsloth! Wir arbeiten an Mac-Kompatibilität. {% endhint %} * Ziehen Sie unser neuestes Unsloth-Container-Image: `docker pull unsloth/unsloth` * Starten Sie den Container mit: ```bash docker run -d -e JUPYTER_PASSWORD="mypassword" \\ -p 8888:8888 -p 8000:8000 -p 2222:22 \\ -v $(pwd)/work:/workspace/work \\ --gpus all \\ unsloth/unsloth ``` Für weitere Informationen, [siehe hier](https://hub.docker.com/r/unsloth/unsloth#unsloth-docker-image). * Greifen Sie auf Ihre Studio-Instanz zu unter `http://localhost:8000` oder externer IP-Adresse `http://external_ip_address:8000/` ### :microchip: Nur CPU Unsloth Studio unterstützt CPU-Geräte für [Chat](#run-models-locally) für GGUF-Modelle und [Datenrezepte](/docs/de/neu/studio/data-recipe.md) ([Export](/docs/de/neu/studio/export.md) erscheint sehr bald) * Dasselbe wie oben für Linux genannt (außer den NVIDIA-GPU-Treibern) und MacOS. ## Entwickler-/Nightly-Installationen (Erweitert) ### **Installation aus dem Haupt-Repo** #### **Entwicklerinstallationen für macOS, Linux, WSL:** ```bash git clone https://github.com/unslothai/unsloth cd unsloth ./install.sh --local unsloth studio -p 8888 ``` Um in einem isolierten Verzeichnis zu installieren (eigene virtuelle Umgebung, `auth/`, `studio.db`, Cache und llama.cpp-Build), setzen Sie `UNSLOTH_STUDIO_HOME` und übergeben Sie es beim Start erneut: ```bash UNSLOTH_STUDIO_HOME="$PWD/.studio" ./install.sh --local UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888 ``` Dann zur Aktualisierung : ```bash cd unsloth && git pull ./install.sh --local unsloth studio -p 8888 ``` #### **Entwicklerinstallationen für Windows PowerShell:** ```powershell git clone https://github.com/unslothai/unsloth.git cd unsloth Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass .\install.ps1 --local unsloth studio -p 8888 ``` Um in einem isolierten Verzeichnis zu installieren (eigene virtuelle Umgebung, `auth/`, `studio.db`, Cache und llama.cpp-Build), setzen Sie `UNSLOTH_STUDIO_HOME` und übergeben Sie es beim Start erneut: ```powershell $env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; .\install.ps1 --local $env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; unsloth studio -p 8888 ``` Dann zur Aktualisierung : ```powershell cd unsloth; git pull .\install.ps1 --local unsloth studio -p 8888 ``` #### **Remote-Zugriff: `--secure` (HTTPS-Tunnel) vs. Rohport** Standardmäßig `unsloth studio` bindet an `127.0.0.1` (nur diese Maschine). Um darauf von einem anderen Gerät aus zuzugreifen, wählen Sie eine der folgenden Optionen: * `--secure` (empfohlen): bereitstellen **nur** über einen kostenlosen Cloudflare-HTTPS-Link. Unsloth bleibt an localhost gebunden und der Tunnel stellt die öffentliche URL bereit; er schlägt geschlossen fehl (wird nicht gestartet), wenn der Tunnel nicht aufgebaut werden kann, sodass der Rohport niemals offengelegt wird. ```bash unsloth studio --secure -p 8888 ``` * `-H 0.0.0.0`: den Rohport an alle Netzwerkschnittstellen binden, erreichbar von überall im Netzwerk. Verwenden Sie dies nur in einem vertrauenswürdigen Netzwerk. ```bash unsloth studio -H 0.0.0.0 -p 8888 ``` Serverseitige Tools (Websuche, Python- und Terminal-Codeausführung) laufen als Ihr Benutzer und sind standardmäßig aktiviert. Jeder, der mit dem API-Schlüssel den Server erreichen kann, kann Code auf dieser Maschine ausführen, also halten Sie Ihren API-Schlüssel geheim und übergeben Sie `--disable-tools` wenn Sie Unsloth öffentlich zugänglich machen. ### Erweiterte Startmethoden Installer-Optionen können als Umgebungsvariablen übergeben werden. Unter macOS, Linux und WSL platzieren Sie die Variable nach der Pipe, damit die Shell sie an `sh`; unter Windows setzen Sie sie mit `$env:` vor dem Weiterleiten an `iex`. PyTorch überspringen (nur-GGUF-Modus): ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_NO_TORCH=1 sh ``` ```powershell $env:UNSLOTH_NO_TORCH=1; irm https://unsloth.ai/install.ps1 | iex ``` Python-Version festlegen: ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_PYTHON=3.12 sh ``` ```powershell $env:UNSLOTH_PYTHON='3.12'; irm https://unsloth.ai/install.ps1 | iex ``` In einem benutzerdefinierten Pfad installieren mit `UNSLOTH_STUDIO_HOME`: ```bash curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_STUDIO_HOME=/abs/path sh ``` ```powershell $env:UNSLOTH_STUDIO_HOME='C:\path'; irm https://unsloth.ai/install.ps1 | iex ``` Begrenzen Sie Unsloths native CPU-Thread-Pools auf Hosts mit vielen Kernen: `UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888`. ### Deinstallieren Der empfohlene Weg, Unsloth Studio vollständig zu entfernen, ist das passende Deinstallationsskript für Ihr Betriebssystem. Es stoppt alle laufenden Server, entfernt das Installationsverzeichnis, das Launcher-Datenverzeichnis, die Desktop-Verknüpfung und alle plattformspezifischen Einträge (macOS `.app` Bundle + Launch Services auf dem Mac; Startmenü, `HKCU\Software\Unsloth` Registrierungsschlüssel und Benutzer `PATH` Einträge unter Windows): * ​ **MacOS, WSL, Linux:** {% code overflow="wrap" expandable="true" %} ```bash curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh ``` {% endcode %} * ​ **Windows (PowerShell):** {% code overflow="wrap" expandable="true" %} ```bash irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex ``` {% endcode %} Wenn Sie nur das Installationsverzeichnis entfernen und den Launcher/die Verknüpfung für eine spätere Neuinstallation behalten möchten, können Sie stattdessen `rm -rf ~/.unsloth/studio` (Mac/Linux/WSL) oder `Remove-Item -Recurse -Force "$HOME\\.unsloth\\studio"` (Windows). Der Modell-Cache unter `~/.cache/huggingface` wird von keinem dieser Befehle angetastet. #### Manuelle Deinstallation Wenn Sie lieber nur bestimmte Teile entfernen möchten: **1. Nur App entfernen** (behält Verlauf, Chats, Checkpoints und Exporte bei): * **macOS, WSL, Linux:** `rm -rf ~/.unsloth/studio/unsloth_studio` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\\.unsloth\\studio\\unsloth_studio"` **2. Unsloth vollständig entfernen** (lässt andere Unsloth-Tools unverändert): * **macOS, WSL, Linux:** `rm -rf ~/.unsloth/studio` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\\.unsloth\\studio"` **3. Alles Unsloth-bezogene entfernen:** * **macOS, WSL, Linux:** `rm -rf ~/.unsloth` * **Windows (PowerShell):** `Remove-Item -Recurse -Force "$HOME\\.unsloth"` {% hint style="warning" %} Hinweis: Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Gelöschte zwischengespeicherte HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten. {% endhint %} **4. Verknüpfungen und Symlinks entfernen:** **macOS:** ```shellscript rm -rf ~/Applications/Unsloth\ Studio.app ~/Desktop/Unsloth\ Studio ``` **Linux:** ```shellscript rm -f ~/.local/share/applications/unsloth-studio.desktop ~/Desktop/unsloth-studio.desktop ``` **WSL / Windows (PowerShell):** ```shellscript Remove-Item -Force "$HOME\\Desktop\\Unsloth Studio.lnk" Remove-Item -Force "$env:APPDATA\\Microsoft\\Windows\\Start Menu\\Programs\\Unsloth Studio.lnk" ``` **5. Den CLI-Befehl entfernen:** * **macOS, Linux, WSL:** `rm -f ~/.local/bin/unsloth` * **Windows (PowerShell):** Der Installer hat das Verzeichnis der venv `Scripts` dem Benutzer-PATH hinzugefügt. Um es zu entfernen, öffnen Sie Einstellungen → System → Info → Erweiterte Systemeinstellungen → Umgebungsvariablen und suchen Sie `Pfad` unter Benutzervariablen und entfernen Sie den Eintrag, der auf `.unsloth\\studio\\...\\Scripts`. {% hint style="info" %} Hinweis: Schritte 1-5 berühren Ihre heruntergeladenen HF-Modelldateien nicht. Siehe unten „Gelöschte zwischengespeicherte HF-Modelldateien“, wenn Sie diesen Speicherplatz freigeben möchten. {% endhint %} ### **Zwischengespeicherte HF-Modell-Dateien löschen** Sie können alte Modell-Dateien entweder über das Papierkorb-Symbol in der Modellsuche löschen oder den entsprechenden zwischengespeicherten Modellordner aus dem standardmäßigen Hugging-Face-Cache-Verzeichnis entfernen. Standardmäßig verwendet Hugging Face `~/.cache/huggingface/hub/` unter macOS/Linux/WSL und `C:\\Users\\\\.cache\\huggingface\\hub\\` unter Windows. * **macOS, Linux, WSL:** `~/.cache/huggingface/hub/` * **Windows:** `%USERPROFILE%\\.cache\\huggingface\\hub\\` Wenn `HF_HUB_CACHE` oder `HF_HOME` festgelegt ist, verwenden Sie stattdessen diesen Ort. Unter Linux und WSL `XDG_CACHE_HOME` kann auch der standardmäßige Cache-Stamm geändert werden. ### Verwendung alter / vorhandener GGUF-Modelle {% columns %} {% column %} **Update vom 1. Apr.:** Sie können jetzt einen vorhandenen Ordner auswählen, aus dem Unsloth erkennen soll. **Update vom 27. März:** Unsloth Studio **erkennt jetzt automatisch ältere / bereits vorhandene Modelle** heruntergeladen von Hugging Face, LM Studio usw. {% endcolumn %} {% column %}
{% endcolumn %} {% endcolumns %} **Manuelle Anweisungen:** Unsloth Studio erkennt Modelle, die in Ihren Hugging-Face-Hub-Cache heruntergeladen wurden `(C:\Users{your_username}.cache\huggingface\hub)`. Wenn Sie GGUF-Modelle über LM Studio heruntergeladen haben, beachten Sie, dass diese gespeichert werden in `C:\Users{your_username}.cache\lm-studio\models` ***ODER*** `C:\Users{your_username}\lm-studio\models` . Manchmal, wenn sie nicht sichtbar sind, müssen Sie diese .gguf-Dateien in Ihr Hugging-Face-Hub-Cache-Verzeichnis (oder einen anderen für llama.cpp zugänglichen Pfad) verschieben oder kopieren, damit Unsloth Studio sie laden kann. Nachdem Sie ein Modell oder Adapter in Unsloth feinabgestimmt haben, können Sie es nach GGUF exportieren und lokale Inferenz mit **llama.cpp** direkt in Unsloth Chat ausführen. Unsloth Studio basiert auf llama.cpp und Hugging Face. ### :google: Google Colab-Notebook Wir haben ein [kostenloses Google Colab-Notebook](https://colab.research.google.com/github/unslothai/unsloth/blob/main/studio/Unsloth_Studio_Colab.ipynb) erstellt, damit du alle Funktionen von Unsloth auf Colabs T4-GPUs erkunden kannst. Du kannst die meisten Modelle mit bis zu 22B Parametern trainieren und ausführen und für größere Modelle auf eine größere GPU wechseln. Klicke einfach auf „Run all“ und die UI sollte nach der Installation erscheinen. {% columns %} {% column %} {% embed url="" %} Sobald die Installation abgeschlossen ist, scrolle zu **Unsloth Studio starten** und klicke auf **Unsloth Studio öffnen** im weißen Feld links angezeigt: **Scrolle weiter nach unten, um die eigentliche UI zu sehen.** {% endcolumn %} {% column %}
{% endcolumn %} {% endcolumns %} {% hint style="warning" %} Manchmal kann der Unsloth-Link einen Fehler zurückgeben. Das passiert, weil du möglicherweise Cookies deaktiviert hast oder einen Adblocker oder Mozilla verwendest. Du kannst trotzdem auf die UI zugreifen, indem du unter dem Button weiter nach unten scrollst. Google Colab erwartet ebenfalls, dass Sie auf der Colab-Seite bleiben; wenn es Inaktivität erkennt, kann es die GPU-Sitzung beenden. {% endhint %} ## Problembehandlung
ProblemLösung
Fehler bei der Python-Versionsudo apt install python3.12 python3.12-venv Version 3.11 bis, aber nicht einschließlich, 3.14
nvidia-smi nicht gefundenInstallieren Sie NVIDIA-Treiber von https://www.nvidia.com/Download/index.aspx
nvcc nicht gefunden (CUDA)sudo apt install nvidia-cuda-toolkit oder fügen Sie /usr/local/cuda/bin zu PATH hinzu
llama-server-Build fehlgeschlagenNicht kritisch, Unsloth funktioniert weiterhin, GGUF-Inferenz wird nicht verfügbar sein. Installieren Sie cmake und führen Sie das Setup erneut aus, um das Problem zu beheben.
cmake nicht gefundensudo apt install cmake
git nicht gefundensudo apt install git
Build fehlgeschlagenLöschen Sie ~/.unsloth/llama.cpp und führen Sie das Setup erneut aus
--- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://unsloth.ai/docs/de/neu/studio/install.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.