> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/loslegen/fine-tuning-for-beginners/unsloth-requirements.md). # Unsloth-Anforderungen Hier sind die Anforderungen von Unsloth, einschließlich System- und GPU-VRAM-Anforderungen. Unsloth kann auf drei Arten verwendet werden: unsere [Unsloth Desktop](/docs/de/desktop.md) App, unsere [Unsloth Studio](/docs/de/neu/studio/install.md) Web-UI oder über [Unsloth Core](#unsloth-core-requirements), die ursprüngliche codebasierte Version. Jede hat andere Anforderungen. ## **Unsloth-Anforderungen** * **Mac:** Training, MLX- und GGUF-Inferenz werden ALLE unterstützt. * **CPU: Unsloth funktioniert auch ohne GPU**, für Chat + Data-Rezepte. * **Training:** Funktioniert auf **NVIDIA**, **AMD**, **Intel** GPUs und **Mac** Geräten ### :windows: Fenster**s** Unsloth Studio funktioniert direkt unter Windows ohne WSL. Stellen Sie sicher, dass Ihr System zum Trainieren von Modellen diese Anforderungen erfüllt: **Anforderungen** * Windows 10 oder Windows 11 (64-Bit) * NVIDIA-GPU mit installierten Treibern * **App Installer** (enthält `winget`): [hier](https://learn.microsoft.com/en-us/windows/msix/app-installer/install-update-app-installer) * **Git**: `winget install --id Git.Git -e --source winget` * **Python**: Version 3.11 bis, aber nicht einschließlich 3.14 * Arbeiten Sie in einer Python-Umgebung wie z. B. **uv**, **venv**, oder **conda/mamba** ### :apple: macOS Unsloth Studio funktioniert auf macOS-Geräten mit voller Unterstützung für Training, MLX- und GGUF-Inferenz. * macOS 12 Monterey oder neuer (Intel oder Apple Silicon) * Homebrew installieren: [hier](https://brew.sh/) * Git: `brew install git` * cmake: `brew install cmake` * openssl: `brew install openssl` * Python: Version 3.11 bis, aber nicht einschließlich 3.14 * Arbeiten Sie in einer Python-Umgebung wie z. B. **uv**, **venv**, oder **conda/mamba** ### :linux: Linux & WSL * Ubuntu 20.04+ oder ähnliche Distribution (64-Bit) * NVIDIA-GPU mit installierten Treibern * CUDA-Toolkit (12.4+ empfohlen, 12.8+ für Blackwell) * Git: `sudo apt install git` * Python: Version 3.11 bis, aber nicht einschließlich 3.14 * Arbeiten Sie in einer Python-Umgebung wie z. B. **uv**, **venv**, oder **conda/mamba** ### :microchip: Nur CPU Unsloth Studio unterstützt CPU-Geräte für [Chat](#run-models-locally) für GGUF-Modelle und [Datenrezepte](/docs/de/neu/studio/data-recipe.md) ([Export](/docs/de/neu/studio/export.md) kommt sehr bald) * Dasselbe wie die oben genannten für Linux (außer NVIDIA-GPU-Treibern) und macOS. ### **Training** Das Training in Unsloth Studio funktioniert derzeit auf NVIDIA, [AMD](/docs/de/loslegen/install/amd.md), MLX-, Intel-Geräten. Sie können weiterhin das [ursprüngliche Unsloth Core](#unsloth-requirements) zum Trainieren auf AMD- und Intel-Geräten verwenden. **Python 3.11–3.13** ist erforderlich. | Anforderung | Linux / WSL | Windows | | ---------------- | -------------------------------------------- | ------------------------------------------------------------------ | | **Git** | Meist vorinstalliert | Wird durch das Setup-Skript installiert (`winget`) | | **CMake** | Vorinstalliert oder `sudo apt install cmake` | Wird durch das Setup-Skript installiert (`winget`) | | **C++-Compiler** | `build-essential` | Visual Studio Build Tools 2022 | | **CUDA-Toolkit** | Optional; `nvcc` automatisch erkannt | Wird durch das Setup-Skript installiert (an den Treiber angepasst) | ## Unsloth-Core-Anforderungen * **Betriebssystem**: Funktioniert auf Linux und [Windows](https://docs.unsloth.ai/get-started/install-and-update/windows-installation) * Unterstützt NVIDIA-GPUs seit 2018+ einschließlich [Blackwell RTX 50](/docs/de/blog/fine-tuning-llms-with-blackwell-rtx-50-series-and-unsloth.md) und [DGX Spark](/docs/de/blog/fine-tuning-llms-with-nvidia-dgx-spark-and-unsloth.md) * Minimale CUDA-Fähigkeit 7.0 (V100, T4, Titan V, RTX 20 & 50, A100, H100, L40 usw.) [Überprüfen Sie Ihre GPU!](https://developer.nvidia.com/cuda-gpus) GTX 1070, 1080 funktionieren, sind aber langsam. * Das offizielle [Unsloth-Docker-Image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` ist auf Docker Hub verfügbar * [Docker](/docs/de/loslegen/install/docker.md) * Unsloth funktioniert auf [AMD](/docs/de/loslegen/install/amd.md) und [Intel](/docs/de/loslegen/install/intel.md) GPUs (folgen Sie unseren [spezifischen Anleitungen](/docs/de/loslegen/install.md)). Apple/Silicon/MLX ist in Arbeit * Ihr Gerät sollte über `xformers`, `torch`, `BitsandBytes` und `triton` Unterstützung verfügen. * Wenn Sie unterschiedliche Versionen von torch, transformers usw. haben, `installieren.` werden automatisch alle neuesten Versionen dieser Bibliotheken installiert, sodass Sie sich keine Sorgen um die Versionskompatibilität machen müssen. {% hint style="info" %} Python 3.13 wird unterstützt! {% endhint %} ### VRAM-Anforderungen für Fine-Tuning: Wie viel GPU-Speicher benötige ich für das Fine-Tuning von LLMs mit Unsloth? {% hint style="info" %} Ein häufiges Problem, wenn Sie OOM erhalten oder der Speicher ausgeht, ist, dass Sie Ihre Batch-Größe zu hoch eingestellt haben. Stellen Sie sie auf 1, 2 oder 3, um weniger VRAM zu verwenden. **Für Benchmarks zur Kontextlänge siehe** [**hier**](/docs/de/grundlagen/unsloth-benchmarks.md#context-length-benchmarks)**.** {% endhint %} Sehen Sie sich diese Tabelle für VRAM-Anforderungen an, sortiert nach Modellparametern und Fine-Tuning-Methode. QLoRA verwendet 4-Bit, LoRA 16-Bit. Beachten Sie, dass je nach Modell manchmal mehr VRAM erforderlich ist, daher sind diese Zahlen das absolute Minimum: | Modellparameter | QLoRA (4-Bit) VRAM | LoRA (16-Bit) VRAM | | --------------- | ------------------ | ------------------ | | 3B | 3,5 GB | 8 GB | | 7B | 5 GB | 19 GB | | 8B | 6 GB | 22 GB | | 9B | 6,5 GB | 24 GB | | 11B | 7,5 GB | 29 GB | | 14B | 8,5 GB | 33 GB | | 27B | 22 GB | 64 GB | | 32B | 26 GB | 76 GB | | 40B | 30 GB | 96GB | | 70B | 41 GB | 164 GB | | 81B | 48 GB | 192 GB | | 90B | 53 GB | 212 GB | | 405B | 237 GB | 950 GB | --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation by asking a question. Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters: ``` GET https://unsloth.ai/docs/de/loslegen/fine-tuning-for-beginners/unsloth-requirements.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.