> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/neu/changelog.md).

# Unsloth-Updates

Unsloth-Changelog für unsere neuesten Releases, Verbesserungen und Fixes.

Um die neuesten Änderungen zu verwenden, [aktualisiere Unsloth](/docs/de/neu/studio/install.md#update-unsloth-studio).

{% updates format="full" %}
{% update date="2026-10-19" tags="new-releases" %}

## DeepSeek V4.1-Flash-1017 und FLUX.3

DeepSeek-V4.1-Flash-1017 und FLUX.3 Image Klein sind da! Führe beide lokal in Unsloth aus. Neu außerdem: Bilder und Videos im Chat, Multi-GPU-Training mit FSDP2 (Alpha) und MCP-Setup mit einem Befehl für Coding-Agents.

#### Highlights

* **DeepSeek-V4.1-Flash-1017**: 552B (16B aktiv) - läuft bei 1 Bit mit etwa 125 GB und seiner Engram-Tabelle auf SSD [Anleitung](https://unsloth.ai/docs/models/deepseek-v4.1-flash)
* **FLUX.3 Image Klein**: Läuft auf 24 GB und bearbeitet mit bis zu 10 Referenzbildern [GGUF](https://huggingface.co/unsloth/flux-3-image-klein-GGUF)
* **MCP-Einrichtung mit einem Befehl**: `unsloth mcp add` verbindet Claude Code, Codex oder Cursor mit Unsloth.
* **Bilder und Videos im Chat**: Lokale Chat-Modelle verwenden das neben ihnen geladene Bild- oder Videomodell.
* **Qwen-Image-Edit-2509 und 2511**: Bearbeite gleichzeitig bis zu 3 Bilder.
* **Token-Vorschau**: Sieh, was dein Modell lernen wird, bevor das Training beginnt.

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.909-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/deepseek-v4.1-flash.md" class="button secondary">DeepSeek-V4.1-Flash</a>
{% endupdate %}

{% update date="2026-10-15" tags="new-releases" %}

## NVIDIA Nemotron 3.5 + Meta Muse Spark Open

Führe NVIDIAs neue Nemotron-3.5-Modelle und Metas neues Muse Spark Open lokal in Unsloth aus. Neu: Text-Diffusions-LLMs, DeepSpeed-Training und besseres Prompt-Caching für Coding-Agents.

#### Highlights

* **NVIDIA Nemotron 3.5 Bolt**: Läuft mit 24 GB Speicher. [Anleitung](https://unsloth.ai/docs/models/nemotron-3.5-bolt)
* **NVIDIA Nemotron 3.5 Super VL**: 120B (12B aktiv) [Anleitung](https://unsloth.ai/docs/models/nemotron-3.5-super-vl)
* **Meta Muse Spark Open**: 816B (42,7B aktiv) - läuft auf 256 GB [Anleitung](https://unsloth.ai/docs/models/muse-spark-open)
* **Besseres Prompt-Caching für Coding-Agents**: Claude Code, Codex usw. verarbeiten bei lokalen GGUF-Modellen weitaus weniger von jedem Prompt erneut.
* **Browser-Nutzung**: "Immer erlauben" funktioniert korrekt, Cursor und separate Tabs für jeden Chat.
* **Bilder über deine Verbindungen**: Erzeuge mit sd-server, Ollama, Lemonade und anderen Bildservern.
* **Diffusions-LLMs**: Trainiere und chatte mit LLaDA, Dream, SDAR und mehr, mit einer Live-Entstörungsfläche.

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.908-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/nemotron-3.5-bolt.md" class="button secondary">Nemotron 3.5 Bolt</a><a href="/docs/de/modelle/muse-spark-open.md" class="button secondary">Meta Muse Spark Open</a>
{% endupdate %}

{% update date="2026-10-12" tags="new-releases" %}

## Browser-Nutzung + **Qwen-Image-2.1-Turbo**

Modelle können jetzt den Browser in Unsloth verwenden. Schalte Browser-Nutzung ein und dein Modell kann Seiten öffnen, sie lesen, klicken, tippen und scrollen, während du zusiehst. Qwen-Image-2.1-Turbo ist ebenfalls da und erstellt Bilder in nur 8 Schritten. Ebenfalls enthalten: Training von Text-Diffusions-LLMs, schnellere MoE-GGUFs und spekulatives Decoding auf dem Mac.

#### Highlights

* **Browser-Nutzung.** Lokale Modelle können die Kontrolle über den Unsloth-Browser übernehmen
* **Qwen-Image-2.1-Turbo**: Bilder in 8 Schritten (2,5× schneller). [Anleitung ansehen](https://unsloth.ai/docs/models/qwen-image-2.1)
* **Trainiere Text-Diffusions-LLMs** wie DiffusionGemma, LLaDA und Dream
* **Bis zu 3× schnellere MoE-GGUFs** die größer sind als dein VRAM
* **Spekulatives Decoding auf dem Mac** für bis zu 2,8× schnellere MLX-Antworten

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.906-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/qwen-image-2.1.md" class="button secondary">Qwen Image 2.1</a>
{% endupdate %}

{% update date="2026-10-08" tags="new-releases" %}

## Trainiere dein eigenes Entscheidungsmodell

Verwandle jedes Text- oder Vision-LLM in Unsloth in ein Jev-artiges Entscheidungsmodell, wobei die Entscheidungsgenauigkeit von 30 % auf 80 % steigt. Trainiere, teste, exportiere und serviere Entscheidungsmodelle direkt aus Unsloth. Ebenfalls enthalten: native ComfyUI-Modelle, Verbesserungen bei der Diffusion und ein besserer Browser in Desktop.

#### Highlights

* **Verwandle jedes Modell in ein Jev-artiges Entscheidungsmodell.** Genauigkeit 30 % bis 80 %
* **ComfyUI-Diffusionsmodelle laden** nativ in Unsloth
* **Schnellere + genauere Diffusion** mit INT8 ConvRot und mehr
* **Besserer Browser in Desktop** mit vielen Fehlerbehebungen
* **Sandboxing** mit Bwrap für Linux, Seatbelt für Mac und MXC für Windows

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.904-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/grundlagen/trainiere-dein-eigenes-entscheidungsmodell-mit-unsloth.md" class="button secondary">Anleitung für Entscheidungsmodelle</a>

{% embed url="<https://github.com/user-attachments/assets/92959172-d2a2-450b-a5bf-6369a1e5ae16>" %}
{% endupdate %}

{% update date="2026-10-07" tags="new-releases" %}

## EmbeddingGemma 2 + Browser

Dieses Release fügt einen Browser in Unsloth hinzu (Browser-Nutzung kommt sehr bald), sodass Dateien, Webseiten und vom Modell geschriebene Seiten direkt neben deinem Chat geöffnet werden. Außerdem bringt es [EmbeddingGemma 2](https://unsloth.ai/docs/models/embeddinggemma-2), Googles neues multimodales Embedding-Modell, sowie neue Audio-Seiten und Training mit geringerem Speicherbedarf.

#### Highlights

* **Browser neben dem Chat** für Dateien, Webseiten und vom Modell geschriebenes HTML, als Tabs
* **EmbeddingGemma 2**: Googles neues Modell für Text, Code, Bilder, Video und Audio ausführen und feinabstimmen [Anleitung](https://unsloth.ai/docs/models/embeddinggemma-2)
* **Audio-Seiten**: Sprechen, Klonen, Musik, Transkribieren, Bearbeiten, Trennen, Konvertieren, mit mehr als 70 GGUF-Modellen
* **Mehrere Modelle geladen halten**, plus vLLM- und SGLang-Engines (optional)
* **Sandbox** für Code, den das Modell ausführt, jetzt mit einem Einstellungen-Tab und Unterstützung für Colab und Docker
* **Live-Vorschau** während der Bild- und Videogenerierung

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.903-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/embeddinggemma-2.md" class="button secondary">EmbeddingGemma 2</a>
{% endupdate %}

{% update date="2026-10-01" tags="new-releases" %}

## Befehlspalette + Desktop-UI/UX

Dieses Release macht Unsloth Desktop schneller und einfacher zu verwenden, mit verbesserter Navigation, teilbaren Ausführungs-Einstellungen, klareren Fehlern, schnelleren Laya-Entscheidungen, erweitertem Decision-API-Support und besserem 4-Bit-LoRA-Training.

* **Cmd/Ctrl+P-Befehlspalette** und teilbaren GGUF-Ausführungseinstellungen.
* [**Laya-Entscheidungen**](#laya-decision-models--library) **bis zu 4,1× schneller** mit Unterstützung für gehostete Anbieter.
* **Klarere Fehler** mit verbesserten Lade-/Generierungsnachrichten und Protokollen.
* **4-Bit-LoRA-Training mit geringerem Speicherbedarf** für NVFP4-, INT4- und MXFP4-Checkpoints.

#### Desktop, Chat und Modelle

* Teile GGUF-Ausführungseinstellungen, ohne Modelle zu laden.
* Antworte fortsetzen und HTML-Canvas-Fehler direkt im Chat beheben.
* Verbesserte Warnungen zur Modellpassung, zum Laden von Bildern und zu Desktop-Steuerelementen.
* Hinzugefügt `FastModel` Feinabstimmungsunterstützung für T5, T5Gemma, BART, Marian und mehr.
* Hinzugefügt `unsloth eval` zum Bewerten von Checkpoints und LoRA-Adaptern.
* Verbesserte Unterstützung für Multi-GPU-Training und -Generierung.

#### 4-Bit-Checkpoint-Training

Vorquantisierte Checkpoints trainieren jetzt mit ihren ursprünglichen gepackten Gewichten, wodurch der Speicherverbrauch sinkt und die Genauigkeit erhalten bleibt.

* Qwen3.8-27B-NVFP4 verwendet 40,2 GB Spitzenspeicher statt 72,9 GB.
* INT4-Checkpoints bleiben gepackt, statt neu quantisiert zu werden.
* Kimi-K2.7-Code und gpt-oss behalten während des LoRA-Trainings gepackte Experten.

#### Decision-API-, Bild- und Plattform-Updates

* Laya-Entscheidungsmodelle antworten bis zu 4,1× schneller, mit gehosteten Anbietern, die über Connections verfügbar sind.
* Bildmodelle bewahren INT8/FP8 beim Offloading für schnellere Generierung.
* Qwen-Image-2.1 rendert 1536×1536-Bilder auf der Radeon 8060S bis zu 3,6× schneller.
* AMD-Windows-Unterstützung für RX-5000–9000-GPUs hinzugefügt.
* MLX-Unterstützung und Mac-LoRA-Exporte zu PEFT oder GGUF aktualisiert.

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.902-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/decision-laya.md" class="button secondary">Anleitung für Laya-Entscheidungsmodelle</a>
{% endupdate %}

{% update date="2026-09-28" tags="new-releases" %}

## Laya-Entscheidungsmodelle + Bibliothek

Wir fügen Unterstützung für Entscheidungsmodelle, eine einheitliche Bibliothek für Dokumente und Medien, einen Dokumentenviewer, viele Apple-Silicon-Verbesserungen, das Erstellen von Skills und \~4,5× schnellere Bild- und Videogenerierung hinzu.

* Ausführen und bereitstellen **Entscheidungsmodelle** wie Laya (Open-Source-Jev) lokal über eine TypeSafe-kompatible API.
* **Skills-Editor** um Skills direkt in Desktop zu erstellen, zu bearbeiten und zu löschen.
* **ModelScope** Das Herunterladen von Modellen ist jetzt für Nutzer verfügbar, die Hugging Face nicht verwenden können
* **Dokumentenviewer** für PDF, Word, Excel, PowerPoint und Chats.
* Neu **Bibliothek**: Verwalte Chats, Bilder, Videos und Dateien aus dem neuen **Bibliothek** Tab.
* **Apple-Silicon-Verbesserungen** einschließlich Batch-Serving, strukturierter Ausgaben und TurboQuant-KV-Cache.
* Konfiguriere, wie viel von einem Modell jede GPU erhält.
* **Schnellere Bild- + Videogenerierung** mit \~4,5× schnelleren LTX-2.3-Clips und 1,7–6,3× schnellerem VAE-Decoding.

<a href="https://github.com/unslothai/unsloth/releases/tag/v0.1.901-beta" class="button primary">Vollständige Versionshinweise</a><a href="/docs/de/modelle/decision-laya.md" class="button secondary">Anleitung für Laya-Entscheidungsmodelle</a>
{% endupdate %}

{% update date="2026-09-22" tags="new-releases" %}

## Qwen-Image-2.1 + Skills

Du kannst Qwen-Image-2.1 jetzt lokal mit Unsloth ausführen! Dieses Release enthält außerdem benutzerdefinierte Agent-Skills und eine einfachere Chat-/Projektverwaltung. Es bringt zudem 2× schnellere Reasoning-Blöcke (60 FPS statt 30 FPS), zuverlässigeres Training sowie verbesserte Linux-Installationen und -Updates.

<a href="/docs/de/modelle/qwen-image-2.1.md" class="button primary">Anleitung für Qwen-Image-1.2</a>

* **Unterstützung für Qwen-Image-2.1:** Führe Qwen-Image-2.1 lokal mit Unsloth für die Bildgenerierung aus.
* **Benutzerdefinierte Agent-Skills:** Füge aufgabenspezifische Skills hinzu, verwende Skills aus Claude Code erneut und `.agents` Ordner und wähle sie im Chat mit `@`.
* **Flüssigere Chat-Erfahrung:** Lange Reasoning-Blöcke werden jetzt mit 60 FPS statt 30 FPS gerendert. Enthält eine neu gestaltete Thinking-UI, flüssigeres Code-Streaming und zuverlässigeres Laden von Modellen sowie Chat-Einstellungen.
* **Einfachere Chat- und Projektverwaltung:** Ziehe Chats, um sie neu anzuordnen, anzupinnen oder plattformübergreifend in Projekte zu verschieben. Bearbeite Projektnamen, Anweisungen und Ordner direkt auf der Projekte-Seite.
* **Bessere Handhabung von Modellen und Speicher:** Vision-Modelle können Bilder sehen, die von MCP-Tools zurückgegeben werden. Wiederverwende heruntergeladene Modelle, ohne doppelte Kopien abzurufen, und prüfe oder leere Caches in den Einstellungen.
* **Zuverlässigeres Training und Exportieren:** Setze frühere Trainingsläufe mit genauen Schätzungen der verbleibenden Zeit fort. Fehlerbehebungen verbessern Hugging-Face-Dataset-Rezepte, Spaltenzuordnung und die Auswahl von Splits/Teilgruppen. Hub-Uploads schließen Dateien aus, die von früheren Exporten übrig geblieben sind.
* **Verbesserte Linux- und AMD-Unterstützung:** In-App-Updates für Debian-Installationen, ein nativer ARM64-Installer für Ubuntu 24.04+ und ein neues AMD-ROCm-Docker-Image mit Unsloth Studio und JupyterLab.
  {% endupdate %}

{% update date="2026-09-17" tags="new-releases" %}

## Docker + MultiUser + AMD-Unterstützung

Wir veröffentlichen unser neues aktualisiertes Docker-Image zusammen mit Multi-User-Konten, RDNA1+2, FP8/INT8-Diffusionsunterstützung, ARM64-CUDA-Windows-Unterstützung und vielen Verbesserungen bei Training, GRPO und Inferenz

#### Highlights:

* Aktualisiertes Docker mit NVIDIA- und AMD-Unterstützung: [Anleitung](https://unsloth.ai/docs/get-started/install/docker)
* Multi-User-Konten mit Isolierung: **Einstellungen > Konten**
* INT8/FP8-Bilddiffusions-Inferenz: 2× schneller
* ARM64-Windows-CUDA-Unterstützung für Training und Inferenz
* GRPO: Qwen3.5 und neueste TRL/vLLM-Unterstützung
* AMD RDNA1- und RDNA2-Unterstützung
* Bessere Erkennung und Wiederherstellung von NVIDIA-GPUs unter Windows

#### Aktualisiertes Docker-Image

* Aktualisiertes CUDA-Image und Studio-Setup, gebündelte Caches entfernt und die Trainings-Patches von Unsloth auf GPU-Hosts wiederhergestellt.
* Studio-Daten bleiben auf einem Volume bestehen, ohne den App-Code zu fixieren. Verbesserte Updates, generierte Passwörter, konfigurierbare Ports und Beibehaltung von Paketen.
* Ein AMD-ROCm-Image für unterstützte Linux-Hosts hinzugefügt.

#### Multi-User-Konten

* Erstelle Konten in **Einstellungen > Konten** mit einmaligen Einrichtungs-Codes und individuellen Passwörtern.
* Konten halten die Arbeit getrennt, während ein geladenes Modell gemeinsam genutzt wird, wenn die Einstellungen übereinstimmen. Das Verhalten mit einem einzelnen Konto bleibt unverändert.

#### Chat + Reasoning

* Bearbeite, ordne und lenke wartende Prompts, selbst während ein lokales Modell lädt.
* GGUF-Reasoning-Budgets, anpassbare Chat-Breite, Desktop-Skalierung und ein kompakter Composer hinzugefügt.
* Verbesserte Reaktionsfähigkeit bei langem Reasoning, Erhalt des Chatverlaufs und Umgang mit von Tools erzeugten Dateien und Bildern.

#### Hardware + Inferenz

* MLX erhält Videoeingaben, optionale MoE- und Decode-Optimierungen sowie zuverlässigere multimodale Chats.
* Verbesserte GGUF-Speicherschätzungen, Handhabung von DGX Spark, NVIDIA-Erkennung, NVLink-Prüfungen und vom Nutzer ausgewählte GPU-Reihenfolge.
* Natives Windows-ARM64-Desktop-Packaging hinzugefügt, Qwen3.5 `fast_inference`, und Ascend-NPU-Erkennung.

#### Recherche + API

* Deep Research bewahrt unfertige Berichte besser, verarbeitet JSON-Ausgaben und markiert Läufe ohne Nachweise. Gescannte PDF-Uploads erhalten einen lokalen OCR-Fallback.
* Verbesserte Reasoning-Steuerung der Anbieter, MCP-Kompatibilität, Tool-Aufrufe und gestreamte Fehlerberichte.
* Hinzugefügt `/v1/chat/completions` Videoeingaben und API-Zugriff auf installierte Ollama-Modelle.

#### Training + Installation

* Data-Recipes-Dataset-Downloads hinzugefügt und 16-Bit-Fine-Tune-Exporte, LoRA-Speicherungen und Push to Hub behoben.
* Verbesserte Dataset-Verarbeitung, Trainings-Speicherschätzungen und Checkpoint-Speicherung beim Herunterfahren des Containers. Kernbehebungen betreffen Normalisierung, RoPE, Q-GaLore und verteilte Geräteauswahl.
* Verbesserte Windows-Installationen, Reparatur von GPU-Paketen, Abhängigkeits-Caching und verifizierte Offline-Installationen.

#### Sicherheit + Tool-Ausführung

* Verstärkter Schutz von Zugangsdaten und Validierung von Tool-Aufrufen, mit Genehmigungsanfragen für Dateizugriff außerhalb der Sandbox.
* Vorschau für OS-weit isolierte Tool-Sandboxing auf unterstützten Linux- und macOS-Hosts hinzugefügt. Der Netzwerkzugriff bleibt uneingeschränkt; der automatische Modus behält bestehende Schutzmaßnahmen bei, wenn OS-Isolierung nicht verfügbar ist.

<a href="/docs/de/loslegen/install/docker.md" class="button primary">Docker-Anleitung</a>
{% endupdate %}

{% update date="2026-09-02" tags="new-releases" %}

## 2× schnelleres Qwen3.8-Flash + GLM-5.3

Ausführen [**Qwen3.8-Flash-Next**](/docs/de/modelle/qwen3.8-next.md) und [**GLM-5.3-Flash**](/docs/de/modelle/glm-5.3-flash.md) bis zu **2× schneller** mit schnellerem Decoding und zusätzlichem MTP, jetzt standardmäßig aktiviert. Dieses Release enthält außerdem **170+ Verbesserungen** bei Training, Chat, Hardware-Unterstützung, APIs und Leistung.

* Schnellere Qwen- und GLM-Generierung mit MTP sowie verbesserte Tool-Nutzung und empfohlene Qwen-Einstellungen.
* Deutlich weniger ruckelige UI/UX für alle Chats, besonders bei langen Unterhaltungen
* Neue Unterstützung für **MiniMax-Music3, Higgs und MOSS** Audio-Modelle, einschließlich Fortschrittsverfolgung und Clip-Verwaltung.
* Zuverlässigeres Laden von Modellen über lokale Server und verbundene Anbieter hinweg.
* Sichereres Bearbeiten von Chats, das Tool-Aufrufe, Antworten, Medien und Gesprächsverzweigungen beibehält.
* Verbessertes Multi-GPU-Training, Speicheranpassung, Modellplatzierung und GGUF-Exporte.
* Stärkere AMD/ROCm-Installation, Erkennung und GPU-Kompatibilität.
* Zuverlässigeres MCP, Deep Research, OAuth, parallele Tool-Aufrufe und Agenten-Workflows.
* Neue OpenAI-kompatible APIs für **Video-, Audio- und über MLX bereitgestellte Modelle**.
* Verbesserte Desktop-Updates, LAN-Port-Steuerung, Downloads und Bereinigung des GPU-Speichers.

<a href="/docs/de/modelle/qwen3.8-next.md" class="button primary">Qwen3.8-Flash-Next</a><a href="/docs/de/modelle/glm-5.3-flash.md" class="button primary">GLM-5.3-Flash</a><a href="/docs/de/modelle/glm-5.3.md" class="button primary">GLM-5.3</a>
{% endupdate %}

{% update date="2026-08-27" tags="new-releases" %}

## Qwen3.8-Flash-Next + GLM-5.3

[Qwen3.8-Flash-Next](/docs/de/modelle/qwen3.8-next.md), [GLM-5.3-Flash](/docs/de/modelle/glm-5.3-flash.md) + [GLM-5.3](/docs/de/modelle/glm-5.3.md) können jetzt lokal in Unsloth ausgeführt werden!

* Qwen3.8-Flash läuft mit 75 GB RAM
* GLM-5.3-Flash läuft mit 102 GB RAM + VRAM
* Bis zu 5× schnelleres RAM-Offloading
* Wiederholte automatische Verdichtung funktioniert jetzt zuverlässig
* 100+ Verbesserungen bei Chat, Zuverlässigkeit und Leistung

<a href="/docs/de/modelle/qwen3.8-next.md" class="button primary">Qwen3.8-Flash-Next</a><a href="/docs/de/modelle/glm-5.3-flash.md" class="button primary">GLM-5.3-Flash</a><a href="/docs/de/modelle/glm-5.3.md" class="button primary">GLM-5.3</a>

<div align="left"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1YneA51oWzaIiwep9H5I%2F1000024423.gif?alt=media&amp;token=40a169cc-12f1-403a-898c-b310f81ff52a" alt="" width="375"><figcaption></figcaption></figure></div>

#### Qwen3.8-Flash-Next

125B multimodales Reasoning-Modell und frühe Vorschau auf die Architektur von Qwen4.

* 1-Bit Dynamic GGUF läuft auf 75 GB RAM oder Unified Memory
* Bis zu 262K Kontext mit Text und Bildern
* Reasoning-Modi: Keine, Niedrig, Mittel und Extra Hoch
* Erhaltenes Thinking verbessert die Konsistenz in langen Chats

#### GLM-5.3-Flash

320B multimodales Modell mit 18B aktiven Parametern.

* 1-Bit-Modell läuft mit 102 GB kombiniertem RAM + VRAM
* Bis zu 1M Kontext für Text, Bilder und Dokumente
* Reasoning-Modi: Niedrig, Hoch und Max
* Verbesserte Performance bei Coding, Agenten und Vision

#### Unsloth-Verbesserungen

* Große GGUFs werden automatisch auf GPU und System-RAM aufgeteilt
* Speicherschätzungen vor dem Laden anzeigen
* Chats stellen sich nach Verbindungsabbrüchen wieder her
* Bessere Multi-Bild-Vision und MCP-Bildunterstützung
* Chats als JSONL exportieren
* Verbesserte Steuerung für automatische Verdichtung
* Behebungen für Linux, NVIDIA Wayland, AMD und Windows

Um die neuen Modelle auszuführen oder zu trainieren, kannst du Unsloth Desktop herunterladen:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-20" tags="new-releases" %}

## Automatische Verdichtung + LAN-Zugriff

Vielen Dank für die Unterstützung von Qwen3.8-27B und Unsloth Desktop letzte Woche! Für unsere [neue `v0.1.801-beta` Version](https://github.com/unslothai/unsloth/releases/tag/v0.1.801-beta), haben wir über 200 PRs zusammengeführt, um viele neue Funktionen und Behebungen einzuführen, darunter:

* **Automatische Verdichtung (experimentell)** für längere Chats über Kontextgrenzen hinaus
* [**Fernzugriff & LAN-Zugriff (Vorschau)**](/docs/de/grundlagen/lan.md) für einfachen Netzwerkzugriff ohne Cloudflare-Links
* **Schnellerer Chat** - Verbesserte Streaming-Performance, weniger UI-Lag und flüssigere lange Unterhaltungen.
* Unterstützung für **benutzerdefinierte llama.cpp-Builds**. Schalter für Cache RAM, Mmap, Mlock, Checkpoints, Spe-Decoding-KV-Cache, Vision Ein / Aus
* [Unsloth Dynamic v3.0](https://unsloth.ai/docs/basics/dynamic-3.0-ggufs) ist veröffentlicht. Neue Qwen3.8-27B Dynamic v3.0 GGUFs liefern >10 % höhere Top-1-Genauigkeit als alle anderen. Funktioniert mit Unsloth.

#### Automatische Verdichtung (experimentell)

Lange Chats können nun Kontextgrenzen überschreiten, indem ältere Gesprächsrunden in ein durchsuchbares Archiv verschoben werden.

* Ältere Gesprächsrunden werden nur bei Bedarf entfernt und bleiben durchsuchbar.
* Neue Kontext-Epochen verbessern das Wiedererkennen, ohne Chats dauerhaft zu kürzen.
* Verwendet Retrieval statt Zusammenfassung für bessere Genauigkeit.

#### Fernzugriff & LAN-Zugriff (Vorschau)

Greife von anderen Geräten in deinem Netzwerk auf Unsloth zu.

* Neue Einstellungen für den Fernzugriff.
* LAN-Steuerung, QR-Codes und Auto-Start-Optionen.
* Aus Sicherheitsgründen standardmäßig deaktiviert.

#### Chat-Verbesserungen

* Schnellere lange Chats und verbesserte Threading-Funktion.
* Projekte organisieren Chats, Dateien und Arbeitsbereiche.
* Prompt-Warteschlange, Tastenkürzel, `edit_file`, und bessere Tool-Unterstützung.

#### Hardware, Inferenz, API

* Unterstützung für benutzerdefinierte llama.cpp-Builds und Intel XPU.
* Mehr Inferenz-Steuerelemente (Cache, mmap, mlock, Checkpoints, spekulatives Decoding, Vision).
* Verbesserte GPU-Validierung, VRAM-Verwaltung und Kompatibilität.
* Strukturierte Ausgaben in der Responses API.
* Bessere Wiederherstellung von llama-server.

Um Qwen3.8 auszuführen oder zu trainieren, kannst du Unsloth Desktop herunterladen:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-14" tags="new-releases" %}

## Qwen3.8

Qwen3.8-27B und Qwen3.8-2.4T können jetzt lokal in Unsloth ausgeführt werden!

Läuft mit 17 GB RAM über Unsloth Dynamic GGUFs. Du kannst Qwen3.8-27B auch in Unsloth feinabstimmen. Qwen3.8-27B ist mit Abstand das stärkste Modell seiner Größe. Wir haben auch NVFP4-Quants hochgeladen.

<a href="/docs/de/modelle/qwen3.8.md" class="button primary">Anleitung zum Ausführen von Qwen3.8</a><a href="/docs/de/modelle/muse-glimmer/train.md" class="button secondary">Muse Glimmer feinabstimmen</a>

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FSqxs6NjShWrLfRKhDy1m%2Fvolcano%202.gif?alt=media&amp;token=395274a0-b437-403a-8a01-8e8502f9d225" alt="" width="375"><figcaption></figcaption></figure>

Weitere Unsloth-Updates umfassen:

* Qwen3.8-27B + zusätzliche erlaubte llama-server-Argumente + benutzerdefinierter VRAM-Schalter
* Externer Anbieter hat Tool-Calling + Tool-Unterstützung + Login mit Codex
* Schnelle FP8 10× schnellere MiniMax-H3-Inferenz (3 Minuten statt 30)
* 10 % schnellere Inferenz für GGUFs + Bypass-Berechtigungen behoben
* Verbunden [API-Anbieter](/docs/de/integrationen/connections.md) können ihre eigene Suche oder die integrierte Suche und Tools von Unsloth Desktop verwenden. Die Tool-Ergebnisse werden an das Modell zurückgegeben, damit es mehrstufige Aufgaben fortsetzen kann.
* Mit einem Codex-Abonnement anmelden und Codex-Tools in Chat verwenden.

Um Qwen3.8 auszuführen oder zu trainieren, kannst du Unsloth Desktop herunterladen:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-11" tags="new-releases" %}

## Wir stellen Unsloth Desktop vor

Wir stellen Unsloth Desktop 🦥 vor - die erste Desktop-App, mit der Modelle lokal ausgeführt und trainiert werden können.\
Open Source. Läuft auf Mac, Windows und Linux

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FyUdniXManojk20Q3M5Lf%2Fintroducing%20unsloth%20desktop%20thumb.png?alt=media&amp;token=5ecd2f25-b996-4749-8242-ffd21b080ae7" alt=""><figcaption></figcaption></figure>

• Unterstützt MLX, Diffusion-Bild/Video, Audio, GGUF\
• Verbindet Claude Code und Codex mit lokalen LLMs\
• 50 % genauere, selbstheilende Tool-Aufrufe + Code-Ausführung in der Sandbox\
• Funktioniert für CPU- und Multi-GPU-Setups - NVIDIA, AMD, Intel, Mac\
• Modelle 2× schneller trainieren mit 70 % weniger VRAM\
• Private Websuche, Deep Research, RAG, MCP + Exporte (NVFP4, GGUF)\
• Verwenden Sie die OpenAI-kompatible API und Cloud-Modelle von Unsloth\
• LLMs sicher remote bereitstellen und von überall darauf zugreifen

Sie können Unsloth Desktop jetzt herunterladen:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-08-10" tags="new-releases" %}

## Meta Muse Glimmer ist da!

Meta hat Muse Glimmer veröffentlicht, das erste Open Model von Meta Superintelligence Labs. Muse Glimmer ist ein dichtes 30B-Parameter-Modell von Meta, entwickelt für lokale agentische und Coding-Workflows. Unter der Apache-2.0-Lizenz veröffentlicht, können Sie Muse Glimmer 30B über Unsloth und Unsloth Dynamic Quants mit bester Leistung ausführen.

<a href="/docs/de/modelle/muse-glimmer.md" class="button primary">Muse Glimmer ausführen</a><a href="/docs/de/modelle/muse-glimmer/train.md" class="button secondary">Muse Glimmer feinabstimmen</a>

Muse Glimmer 30B kann lokal laufen auf **20 GB RAM/VRAM** Setups, einschließlich Mac und GPUs. Sie können Muse Glimmer 30B außerdem mit Unsloth auf **20 GB VRAM**.

Sie können Muse Glimmer über die Unsloth Desktop-App ausführen und feinabstimmen:

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth Desktop herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)
  {% endupdate %}

{% update date="2026-07-29" tags="new-releases,v0.1.51-beta" %}

## Kimi K3 + Deep Research + Parallel Chat

Hallo zusammen! [Kimi K3](/docs/de/modelle/kimi-k3.md) kann jetzt lokal mit Unsloth Dynamic GGUFs laufen, Unsloth kann mehrere Chats parallel generieren lassen, und der neue Deep-Research-Modus plant, liest und zitiert Quellen mit Ihrem lokalen Modell.

Dieses Release bringt außerdem bessere [AMD](/docs/de/grundlagen/amd.md) - und Intel-GPU-Unterstützung, DoRA-Training und viele Fixes für Installer, MLX, Export und Inferenz.

#### Kimi K3

Moonshot AIs **Kimi K3** ist ein 2,8T-Parameter-MoE-Modell mit 104B aktiven Parametern, nativer Vision-Unterstützung und einem 1-Million-Token-Kontextfenster. Kimi K3 ist nur für Thinking gedacht und Unsloth unterstützt niedrige, hohe und maximale Reasoning-Aufwände.

Sie können unsere [Kimi K3 Dynamic GGUFs](https://huggingface.co/unsloth/Kimi-K3-GGUF) über Unsloth ausführen. Unsloth erkennt Multi-GPU-Setups automatisch und kann Modellebenen in den Systemspeicher auslagern.

Kimi K3 ist ein sehr großes Modell, planen Sie Ihre Hardware also entsprechend:

* `UD-IQ1_S` benötigt 595 GB Speicherplatz auf der Festplatte.
* `UD-Q4_K_XL` benötigt 1,51 TB Speicherplatz auf der Festplatte.
* Für verlustfreie Inferenz verwenden Sie `UD-Q8_K_XL`das 1,56 TB Speicherplatz auf der Festplatte benötigt.

Lesen Sie unseren vollständigen [Kimi-K3-Leitfaden](https://unsloth.ai/docs/models/kimi-k3) und erfahren Sie mehr über [Unsloth Dynamic 2.0 GGUFs](https://unsloth.ai/docs/basics/unsloth-dynamic-2.0-ggufs).

#### Parallel Chat

Unsloth kann jetzt mehrere Unterhaltungen gleichzeitig ausführen. Wenn Sie einen **Neuen Chat** starten, bleibt die vorherige Antwort in der Generierung, und jede aktive Unterhaltung erhält ihre eigene Fortschrittsanzeige und Stopp-Steuerung.

* Standardmäßig 4 llama-server-Slots, in der Web-UI anpassbar.
* Tools, Uploads, Self-Healing und Agents bleiben zwischen Chats isoliert.
* Einen Chat stoppen, ohne andere zu unterbrechen oder den Server neu zu starten.
* Unsloth reduziert die Slot-Anzahl, wenn der Speicher knapp ist.
* Das Neuladen des Modells stoppt aktive Chats nach Bestätigung weiterhin.

#### Deep Research

Deep Research verwandelt ein lokales Modell in einen vollständigen Research-Workflow. Geben Sie ihm eine Frage, und es erstellt einen Plan, durchsucht das Web, ordnet die Belege und erstellt einen Bericht mit Quellenangaben.

* Überprüfen und bearbeiten Sie den Plan, bevor die Recherche beginnt.
* Verfolgen Sie den Fortschritt und die gesammelten Quellen, während es arbeitet.
* Fortsetzen oder abbrechen, ohne abgeschlossene Recherche zu verlieren.
* Websites erlauben oder blockieren, um die Quellenauswahl zu steuern.
* Quellen und Zitate bleiben mit jedem Durchlauf gespeichert.
* Vor dem Schreiben prüft Unsloth auf nicht belegte Behauptungen, Widersprüche und offene Lücken. Empfehlungen ohne direkte Belege werden als testbare Schlussfolgerungen markiert.

Pro Chat kann nur ein Lauf aktiv sein. Deep Research funktioniert derzeit mit lokalen Modellen. Optionales Full-Page-Grounding kann die obersten Suchergebnisse vor der Synthese in temporäres RAG einlesen; aktivieren Sie es mit `UNSLOTH_RESEARCH_AUTO_SCRAPE=1`. Es bleibt standardmäßig deaktiviert, weil es zusätzliche Scraping-Zeit verursacht und mehr Kontext benötigt.

#### Verbesserte AMD-Unterstützung

Dieses Update baut auf unserer ersten [AMD-Veröffentlichung und Einrichtungsanleitung](https://unsloth.ai/docs/basics/amd) mit Unterstützung für mehr GPUs und zuverlässigerer ROCm-Inferenz und -Training auf.

* Verbesserte Erkennung für RDNA2-, Radeon-, Ryzen-, Strix-Halo- und Workstation-GPUs.
* MI50 und Radeon VII unterstützen 16-Bit-LoRA und vollständiges Fine-Tuning unter Linux.
* Behobene 4-Bit-NaNs, Bibliothekskonflikte und lange RDNA-Startverzögerungen.
* Nicht unterstützte Windows-HIP-GPUs können auf Vulkan zurückfallen.
* Vulkan-Geräte zeigen ihre echten Namen und können einzeln ausgewählt werden.
* Saubere Windows-Installationen benötigen Winget oder Entwicklungstools nicht mehr.

#### Training, Modelle und Plattform-Updates

* Intel XPU ermöglicht lokalen Chat und Training auf Intel-Arc- und Data-Center-GPUs.
* DoRA ist zusammen mit LoRA und vollständigem Fine-Tuning verfügbar.
* Große Exporte können alle sichtbaren GPUs nutzen, um Speichergrenzen von GPU 0 zu vermeiden.
* MLX ergänzt Streaming-Datensätze, fortgesetztes Pretraining, Callbacks und bessere VLM- und LoRA-Unterstützung.
* Behobene inkorrekte `flash_attention_2` Modellausgabe.
* Unsloth und die Speicherfunktionen funktionieren jetzt ohne bitsandbytes.
* Behoben `.json` Datensätze sowie das Notebook-Setup für Qwen3.5/3.6 MoE und GRPO.
* Die Hub-Download-Ordner sind leichter zu finden und zu öffnen.
* Release Notes sind im Unsloth-Update-Popup verfügbar.
* `unsloth start --as-subagent` ermöglicht Codex, Claude Code und Pi, Aufgaben an ein lokales Unsloth-Modell zu delegieren.
  {% endupdate %}

{% update date="2026-07-20" tags="new-releases,v0.1.50-beta" %}

## AMD-Unterstützung ist da!

Hallo zusammen! Dieses Release bringt lokales LLM-Training und Inferenz auf [AMD-GPUs](/docs/de/grundlagen/amd.md) unter Windows, WSL und Linux.

<a href="/docs/de/grundlagen/amd.md#installing-unsloth-on-amd" class="button primary" data-icon="bolt">Schnellstart</a><a href="/docs/de/grundlagen/amd.md#id-2x-faster-training-and-50-more-accurate-tool-calls" class="button secondary" data-icon="star">Funktionen</a><a href="https://github.com/unslothai/unsloth" class="button secondary" data-icon="github">GitHub</a>

Ab heute ermöglichen Ihnen unsere AMD-Zusammenarbeit, benutzerdefinierte Triton-Kernel und mathematische Algorithmen, über 500 Modelle auf AMDs Radeon-, Instinct-, Vulkan-, Ryzen- und Data-Center-GPUs bis zu 2× schneller mit 70 % weniger VRAM und ohne Genauigkeitsverlust zu trainieren und auszuführen. Optimierte ROCm-Builds unterstützen außerdem GGUF- und Safetensors-Inferenz.

<img src="https://github.com/user-attachments/assets/bb8bc525-9fb8-405d-98f5-6c9c07128085" alt="" width="375">

#### Update vom 23. Juli

1. Hinzugefügt **RDNA2-, Gorgon-Halo- und Vulkan-Unterstützung** + behoben: AMD-Installation erkennt GPUs auf Strix Halo / anderen AMD-GPUs nicht
2. Bessere RDNA4-, HIP-/ROCm-Fehlerbehebung und Fehlererfassung
3. **2x schnellerer Unified Memory** AMD-safetensors-Laden + deutlich schnelleres Gradient Checkpointing für Unified-Memory-Geräte
4. Hinzugefügt **Sprachdiktat / whisper.cpp** vorläufige Unterstützung für schnelle Text-zu-Sprache
5. Behoben: Rollback-Umgebungen bei Installationen, die 5 GB Speicherplatz belegten - jetzt automatische Bereinigung

#### LLMs lokal auf AMD trainieren

* Trainieren, RL ausführen, mit Modellen chatten und sie lokal auf AMD-GPUs bereitstellen.
* Zuverlässigere AMD-GPU-Erkennung und Installation unter Windows, WSL und Linux.
* Verbesserte ROCm-Kompatibilität für AMD MI300X- und MI325X-GPUs.
* Unsloth per Remotezugriff über `unsloth studio --secure` über kostenloses HTTPS via Cloudflare

#### Größere Modelle auf Ihrer Hardware ausführen

* Verwenden Sie automatische GPU-Platzierung oder wählen Sie exakt aus, welche GPUs und Modellebenen verwendet werden sollen.
* Verschieben Sie MoE-Expertenebenen in den Systemspeicher, damit größere Modelle besser passen.
* Teilen Sie Modelle auf mehrere GPUs auf oder verwenden Sie Tensor Parallelism.
* Speichern Sie Hardware-Einstellungen separat für jedes Modell und jede Quantisierung.

#### Schnellere Chat-Neustarts und zuverlässigere Downloads

* Lange Chats fortsetzen, ohne die gesamte Unterhaltung neu aufzubauen, nachdem ein untätiges Modell seinen VRAM freigegeben hat.
* Hängengebliebene Hugging-Face-XET-Downloads versuchen es automatisch erneut über Standard-HTTP.
* Vorhandene GGUF-Dateien werden bei jedem Laden eines Modells wiederverwendet, statt erneut heruntergeladen zu werden.

#### Bessere Suche, Tools und Agents

* Die Websuche kann jetzt PDF-Papiere, Handbücher und andere PDF-Ergebnisse lesen.
* Parallele Tool-Aufrufe, Reasoning-Ausgabe und Tool-Wiederholungen funktionieren zuverlässiger.
* Ein neuer optionaler MCP-Endpunkt ermöglicht kompatiblen KI-Clients, Modelle und Trainingshistorie zu inspizieren, Training zu starten oder zu stoppen, Checkpoints zu laden, Rezepte zu validieren und GGUFs zu exportieren.
  * Aktivieren Sie ihn mit `UNSLOTH_STUDIO_ENABLE_MCP=1` und setzen Sie den erforderlichen Bearer-Token mit `UNSLOTH_STUDIO_MCP_TOKEN`.

#### Korrekturen bei Training und Export

* Beim reinen Texttraining mit multimodalen Modellen werden lange Beispiele vor dem Packing nicht mehr abgeschnitten.
* Feinabgestimmte Qwen3.5- und Qwen3.6-MTP-Modelle werden jetzt korrekt nach GGUF exportiert.
* Ein Windows-Berechtigungsfehler wurde behoben, der GGUF-Exporte im letzten Schreibschritt stoppen konnte.

#### Falls Sie es verpasst haben

Unsere vorherige Studio-Version brachte Dynamic-NVFP4-Modelle, tiefere Personalisierung, sieben neue Anzeigesprachen, sicherere Agents und Vulkan-GPU-Beschleunigung.

**Dynamic NVFP4:**

Unsloth Dynamic NVFP4 hält genauigkeitssensible Ebenen in FP8 oder BF16, während der Rest in W4A4 läuft. Auf NVIDIA-Blackwell-GPUs ermöglicht das bis zu 2,5x schnellere Inferenz, während kalibrierte FP8-KV-Caches bis zu 2x längeren Kontext bieten.

Lesen Sie den [Dynamic-NVFP4-Leitfaden](https://unsloth.ai/docs/basics/nvfp4) und entdecken Sie unsere erweiterte [NVFP4-Sammlung](https://huggingface.co/collections/unsloth/nvfp4)einschließlich Qwen3.6, Qwen3.5, Inkling, GLM-4.7 Flash und Gemma 4.

**Personalisieren Sie Ihr Studio:**

Wählen Sie zwischen den Farbschemata Standard, Classic und Minimal, jeweils mit Hell- und Dunkelmodus. Sie können außerdem Farben anpassen, Schriftarten importieren sowie Schriftgröße, Kontrast, reduzierte Bewegung und mehr anpassen.

Unsloth enthält außerdem einen Tab für Spracheinstellungen für Diktat, benutzerdefinierte Wörterbuch-Einstellungen und Vorlesen.

**Neue Sprachen:**

Unsloth Studio ist jetzt auf Französisch, Deutsch, Spanisch, Hindi, Arabisch, Russisch und Koreanisch verfügbar, zusätzlich zu Chinesisch (vereinfacht), Japanisch und Portugiesisch (Brasilien). Die automatische Erkennung der Browsersprache ist jetzt Standard.

**Sicherere Agents:**

Ein vierstufiger Berechtigungswähler für Tool-Aufrufe -**Nachfragen**, **Für mich freigeben**, **Aus** und **Voller Zugriff**- bietet feinere Kontrolle über Agents. Die Isolierung der Agent-Arbeitsbereiche und sicherere Installer-Prüfungen verringern ebenfalls das Risiko unbeabsichtigter Änderungen.
{% endupdate %}

{% update date="2026-07-15" tags="new-releases,v0.1.49-beta" %}

## Personalisierung, NVFP4, Sprachen

Hey Leute, wir haben viele neue Updates für Unsloth, besonders bei der Anpassung. Unsloth lässt sich jetzt ganz nach Ihren Wünschen personalisieren: drei Farbschemata plus benutzerdefinierte Farben und Schriftarten, sieben neue Anzeigesprachen und einen neuen Tab für Spracheinstellungen für Diktat und Vorlesen. Agents werden sicherer mit einem vierstufigen Berechtigungswähler für Tool-Aufrufe (Nachfragen, Für mich freigeben, Aus, Voller Zugriff) und Arbeitsbereichsisolierung, und Intel-GPUs erhalten endlich GPU-beschleunigte Inferenz durch das neue Vulkan `llama.cpp` Unterstützung.

Wir haben außerdem native Unterstützung für [Inkling](https://unsloth.ai/docs/models/inkling)hinzugefügt, ein offenes Modell mit 975B Parametern, 41B aktiven Parametern und einem Kontextfenster von bis zu 1 Million Tokens. Unter Apache 2.0 lizenziert, verarbeitet es Text, Bilder und Audio und erzeugt Text.

#### Dynamic NVFP4

Wir haben unsere [NVFP4-Sammlung](https://huggingface.co/collections/unsloth/nvfp4) um quantisierte Versionen von Qwen3.6, Qwen3.5, Inkling, GLM-4.7 Flash und Gemma 4 erweitert.

Lesen Sie den [Dynamic-NVFP4-Leitfaden](https://unsloth.ai/docs/basics/nvfp4) für Details.

Personalisieren Sie Ihr Unsloth

Unsloth ist nicht mehr nur auf Hell- und Dunkelmodus beschränkt:

* Wählen Sie aus **Standard**, **Classic**und **Minimal** -Farbschemata, jeweils mit hellen und dunklen Varianten.
* Passen Sie Akzent-, Hintergrund- und Vordergrundfarben an.
* Importieren Sie Ihre eigenen Schriftarten für UI, Überschriften, Chat und Code.
* Passen Sie Schriftgröße, Kontrast, Bewegung, Cursorverhalten und Schriftglättung an.
* Such-Einstellungen und Synchronisierungspräferenzen geräteübergreifend.

Hell- und Dunkelmodus behalten ihre eigenen Anpassungswerte.

#### Sieben neue Sprachen

Unsloth unterstützt jetzt Französisch, Deutsch, Spanisch, Hindi, Arabisch, Russisch und Koreanisch zusätzlich zu Chinesisch, Japanisch und Portugiesisch. Die automatische Erkennung der Browsersprache ist jetzt Standard.

#### Spracheinstellungen

Ein neuer Tab „Sprache“ fügt Steuerelemente für Diktat, Aussprachewörterbücher und Vorlesen hinzu. Unterstützung für Sprache-zu-Text und Text-zu-Sprache folgt in Kürze; vollständige Sprachkonversationen sind noch in Entwicklung.

#### Sicherere Agents und Tool-Aufrufe

Der alte Bypass-Schalter ist jetzt ein vierstufiger Berechtigungswähler:

* **Nachfragen:** jeden Tool-Aufruf genehmigen.
* **Für mich freigeben:** lesende Aktionen automatisch ausführen und bei potenziell unsicheren anhalten.
* **Aus:** Tool-Aufrufe deaktivieren.
* **Voller Zugriff:** alle Aufrufe erlauben und die Sandbox deaktivieren.

Diese Steuerelemente decken Terminal-, Python-, Websuche-, RAG- und MCP-Tools ab. Agents erhalten außerdem isolierte Arbeitsbereiche, fortsetzbare Sitzungen mit `--persist`, sicherere Warnungen für Remote-Installer, Live-Streaming von Tool-Ausgaben und verbesserte Web-Extraktion.

#### Vulkan und `llama.cpp`

Das neue Vulkan `llama.cpp` Backend gibt Intel-GPUs GPU-beschleunigte Inferenz, statt auf die CPU zurückzufallen. Es unterstützt das vorhandene VRAM-Management, automatische Kontextgrößenanpassung, Multi-GPU-Auswahl und Layer-Offloading.

AMD-Nutzer können dies aktivieren mit:

```bash
UNSLOTH_FORCE_VULKAN=1
```

Wir haben außerdem die Zuverlässigkeit von Updates, die Wiederherstellung des Modellzustands und das Unterbrechen hängengebliebener Generierungen verbessert.

#### Modelle und Training

Dieses Release enthält außerdem:

* Native Inkling-Unterstützung und Verbesserungen für Multi-GPU-B200.
* DeepSeek-V4-Eager-Attention und trainierbare FP8-Gruppenexperten.
* Zuverlässiges Completion-only-Training durch automatische Erkennung von Chat-Template-Markern.
* Korrekte Behandlung deaktivierten Gradient Checkpointing.
* Verbessertes RoPE-Scaling und Kontext-Erweiterung.
* Erzwungenes Stoppen festgefahrener Trainingsläufe.
* Automatisches Routing für neue Modellarchitekturen und neuere Transformers-Versionen.
  {% endupdate %}

{% update date="2026-07-07" tags="new-releases,v0.1.48-beta" %}

## DeepSeek-V4 + NVFP4

Unsloth kann jetzt nach dem Training NVFP4-, FP8- und imatrix-GGUFs exportieren; als llama-swap-API-System dienen; Unterstützung für Japanisch und brasilianisches Portugiesisch hinzufügen; und enthält MLX, safetensors, Tool-Calling, Healing-Unterstützung und mehr. Der Unsloth-Core macht GRPO 1,3x schneller, fügt HTTP-Fallback für hängengebliebene Downloads hinzu, verbessert den Offline-Modus, beschleunigt das MoE-Training um 3-5x und behebt viele Fehler. Diese Release-Serie verwendet `unsloth>=2026.7.1`.

[DeepSeek-V4-Flash](/docs/de/modelle/deepseek-v4.md) wird jetzt mit Thinking-Umschaltern und unseren verbesserten Chat-Template-Korrekturen unterstützt.

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FChQx2DGoDLyhf7mp8G2d%2Fdeepseek%20v4%20flashhh.png?alt=media&amp;token=a84f2fbc-8ab0-44cf-a3a8-0bdaaf80a2a7" alt="" width="375"><figcaption></figcaption></figure></div>

#### Intelligentere OpenAI-kompatible API-Bereitstellung

Betreiben Sie einen lokalen API-Endpunkt mit sichererem Modellwechsel und besserer Wiederherstellung für Agent-Tools.

* API-Anfragen können optional zwischen heruntergeladenen lokalen GGUFs automatisch umschalten, während unbekannte Modellnamen weiterhin sicher das aktuelle Modell verwenden.
* `/v1/models` gibt jetzt saubere Modell-IDs und den lokalen GGUF-Katalog zurück statt lokaler `.gguf` Pfade.
* Das automatische Entladen bei Inaktivität kann VRAM nach einer Pause freigeben, und das Heilungsverhalten von Tool-Aufrufen kann jetzt pro Anfrage gesteuert werden.

#### Verbesserungen beim Export

Exporte sind flexibler und vermeiden unnötige Downloads.

* Wählen Sie mehrere Exportformate auf einmal, darunter portables FP8/INT8, GGUF-LoRA, quellengleiche Exporte, imatrix GGUF und komprimiertes FP8/FP4.
* Multi-Checkpoint-Exporte vermeiden weitere wiederholte Basis-Modell-Downloads.
* FP8-, INT8- und GGUF-LoRA-Exporte berücksichtigen jetzt `trust_remote_code`und der GGUF-Export behandelt fehlende Quantisierungseinstellungen zuverlässiger.

#### RAG und Datei-Chat

Datei-Chat ist bei echten Dokumenten nützlicher.

* RAG-Anhänge können jetzt den Kontext des gesamten Dokuments verwenden, mit anpassbaren Embedding-Modellen und Hugging-Face-Suche.
* Datei-Chat liest mehr PDFs und Word-Dokumente korrekt, einschließlich Text von rechts nach links, indischen Schriften und DOCX-Tabellen.
* Lokale RAG-Prüfungen sind hinter Proxy-Setups zuverlässiger.

#### Feinschliff und Zuverlässigkeit von Unsloth

Der tägliche Gebrauch sollte sich flüssiger und stabiler anfühlen.

* Lange Trainings- und Chatläufe frieren seltener still ein.
* Vergleichsmodus, Modellwechsel, Modellabbruch, Hub-Browsing und Hub Discover sind zuverlässiger.
* Projekt-Exporte, Chat-Exporte, Einstellungen, geführte Rundgänge, Dateidialoge, Update-Bildschirme und Reasoning-UI sind sauberer und konsistenter.

#### Installer-, Hardware- und Plattform-Korrekturen

Unsloth installiert und läuft plattformübergreifend zuverlässiger.

* macOS-Installationen benötigen kein CMake oder Homebrew mehr, wenn ein vorgefertigtes `llama.cpp` verfügbar ist, und die Apple-Silicon-Unterstützung behandelt Pfade mit Leerzeichen und Unified-Memory-Größen besser.
* Der Windows-Start, die UTF-8-Verarbeitung, ROCm-RAG-Embedding und die ROCm-on-WSL-GPU-Unterstützung wurden verbessert.
* Die Auswahl vorgefertigter Blackwell-GPUs, GGUF-Passformprüfungen, Tensor Parallelism für Vision-/mmproj-GGUFs und lokale `llama.cpp` Wiederverwendung sind jetzt zuverlässiger.

#### Training, Modelle und Kernel

Training und Modellladen sind über mehr Setups hinweg zuverlässiger.

* GRPO unterstützt jetzt standardmäßig Sequence Packing, vermeidet wiederholte gemeinsame Prompts und behandelt DDP-Logit-Skalierung korrekt.
* Vollständiges Fine-Tuning, RL-Genauigkeitseinstellungen, Gradient Checkpointing, DDP-RoPE-Puffer und die Erkennung von MoE-LoRA wurden behoben.
* FP8-Quantisierung/-Dequantisierung, Llama-3-RoPE-Scaling mit Transformers v5, PEFT-0.19-LoRA-Neuladungen und `fast_generate` Fehlermeldungen wurden verbessert.
  {% endupdate %}

{% update date="2026-06-18" tags="new-releases,v0.1.47-beta" %}

## GLM 5.2 + Hub + 3x längere Kontexte

[GLM-5.2](/docs/de/modelle/glm-5.2.md) wird jetzt in Unsloth Studio unterstützt! Alle Reasoning-Stufen werden unterstützt. **3x längere Kontextlängen** sind jetzt mit unserem neuen Auto-Fit-Algorithmus mit MTP erreichbar, wodurch längere Chats möglich werden. Bypass-Berechtigungsmodus, verzweigte Chats, in Warteschlange stellbare Chats, ein neuer Hub zur Modellerkennung, parallele Module + HTTPS-Cloudflare-Unterstützung und mehr! Verwenden Sie `unsloth studio --secure` für sicheren globalen HTTPS-Zugriff!

<div data-with-frame="true"><img src="https://github.com/user-attachments/assets/93c18616-415f-48ea-957d-9e0fa97a45dd" alt="" width="563"></div>

#### Bessere Kontextlängen-Algorithmus

Gemäß [PR 1](https://github.com/unslothai/unsloth/pull/6312) und [PR 2](https://github.com/unslothai/unsloth/pull/6447)haben wir Unsloth Studios Bestimmung von Speichernutzung und Kontextlänge deutlich verbessert und insgesamt 3x längeren Kontext erreicht:

| Szenario                        | KV       | vorher  | nachher |
| ------------------------------- | -------- | ------- | ------- |
| 1x 32GB-Pipeline (\~31 GB frei) | f16      | 23,040  | 64,000  |
|                                 | q8\_0    | 43,520  | 114,944 |
|                                 | q4\_0    | 82,432  | 199,680 |
| 2x 32GB-Pipeline                | beliebig | 262,144 | 262,144 |
| 2x 24GB-Tensor (\~23 GB frei)   | f16      | 134,049 | 262,144 |
|                                 | q8\_0    | 252,329 | 262,144 |

#### Chat-Canvas, Forking & Queueing

* Bearbeiten Sie Assistenten-Nachrichten direkt an Ort und Stelle und führen Sie sie von jedem Punkt im Thread aus erneut aus.
* Forken Sie einen Thread, um eine Unterhaltung abzuzweigen, ohne das Original zu verlieren.
* Temporäre (Inkognito-)Chats, die nichts zurücklassen.
* Stellen Sie neue Prompts in die Warteschlange, während eine Generierung noch läuft, statt zu warten.
* Chat-„Artefakte“ sind jetzt **Canvas**, mit eingebetteten **HTML-Canvas-Karten** die automatisch gerendert werden, einer Code-Ansicht, und DiffusionGemma lässt seinen Rohcode inline sichtbar statt ihn einzuklappen.
* Die Chat-Suche umfasst jetzt jede Nachricht und zeigt Ihre eigenen Nachrichten zuerst an.

#### Hub (neu gestaltet)

* Vollseitiger Hub mit einem Trending-Feed, Suche und Unterstützung für benutzerdefinierte Modellpfade.
* README-Vorschau in einem Feed mit geteilter Ansicht, damit Sie vor dem Download lesen können.
* Downloads verwenden standardmäßig das schnellere **Xet** Transportprotokoll, mit automatischem HTTP-Fallback, wenn eine Übertragung stockt.
* Neuer Schalter „Beim Auswählen laden“, um Ladeoptionen festzulegen, bevor ein Modell geladen wird.
* Google-Logo wird für DiffusionGemma und zukünftige Gemma-Derivate angezeigt.

#### Modelle & Inferenz

* DeepSeek-OCR und weitere Vision-Modelle laden und laufen jetzt ohne Fehler.
* Schnelle Inferenz mit dem neuesten vLLM (0.22+) wurde behoben, sodass Beschleunigungen wieder funktionieren.
* Tensor Parallelism ist zuverlässiger: Wenn der schnellere MTP-Pfad fehlschlägt, stellt er sich jetzt selbst wieder her, statt abzustürzen.
* DiffusionGemma zeigt jetzt live, wie das Bild beim Entstören entsteht, mit genauen Geschwindigkeitsstatistiken.

#### Sicherheit & Cloudflare-verschlüsselte Studios

* Neu `--secure` Cloudflare-only-Modus für Ende-zu-Ende-verschlüsselte Studios, wobei serverseitige Tools unter `--secure`. Verwenden `unsloth studio --secure`!
* Verwende den Bypass-Berechtigungsmodus, um Bestätigungen zu überspringen und die Tool-Sandbox zu deaktivieren, wenn du möchtest.
* Automatische Erkennung von Hugging-Face-Virenscans + gefährlichen Dateien in Repos.

#### Protokollierung und API

* Neu **API-Server-Monitor** in Unsloth.
* Schnellere API-Aufrufe und geringere Latenz
* Deutlich besser gestraffte Protokolle – jetzt mit Durchsatz und Latenz, und viele aufgeblähte Protokolle wurden entfernt.

#### Hardware & Backend

* Bessere Unterstützung für Blackwell RTX-50X- und 60X-GPUs
* Behebt das stille Herabstufen auf die CPU statt auf die GPU
* Die torchao-Version wird jetzt anhand des installierten torch ausgewählt.
* Der Installer repariert jetzt automatisch eine beschädigte oder nur-CPU-PyTorch-Installation und warnt vor einem stillen CPU-Fallback – auf NVIDIA + AMD unter Win/Linux/Mac/WSL.
* Gibt den VRAM des Chat-Modells frei, wenn das Training startet, aber nur, wenn der GPU-Speicher tatsächlich knapp ist (sonst keine unnötigen Neuladungen).
* Wenn llama-server beim Start hart abstürzt, durchläuft Unsloth jetzt eine Wiederherstellungsleiter statt einfach nur zu scheitern.

#### Training & allgemeine Fehlerbehebungen & parallele Module

* MLX-Trainingsupdates.
* Verbesserte Zuverlässigkeit des GRPO-Trainings mit vLLM.
* Der Trainingsstart wurde zuverlässiger gemacht, mit klareren Fehlern für ungültige VLM-Batches.
* Unsloth bereinigt verbleibende Backend-Prozesse jetzt zuverlässiger nach Abstürzen, Neustarts oder unterbrochenen Herunterfahrvorgängen.
* Export, Chat, Training und Recipes sind alle individualisiert / getrennt! Das bedeutet, dass du jetzt alle 4 parallel ausführen kannst! Du kannst chatten / Inferenz durchführen, während du auf einen Trainingslauf oder Export wartest!

Um Unsloth zu aktualisieren oder ein neues Unsloth Studio zu installieren, musst du Folgendes verwenden:

**macOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endupdate %}

{% update date="2026-06-12" tags="new-releases,v0.1464-beta" %}

## DiffusionGemma + Gemma 4 MTP

Stelle sicher, dass du das neueste installierst [`v0.1.464-beta`](https://github.com/unslothai/unsloth/tree/v0.1.462-beta) oder `2026.6.7`. [DiffusionGemma](https://unsloth.ai/docs/models/diffusiongemma), [Gemma 4 MTP](https://unsloth.ai/docs/models/mtp) und [**MiniMax-M3**](https://unsloth.ai/docs/models/minimax-m3) werden jetzt alle unterstützt.

* Ausführen und trainieren [DiffusionGemma](https://unsloth.ai/docs/models/diffusiongemma) über [Unsloth Studio](https://unsloth.ai/docs/new/studio).
* [Gemma 4 MTP](https://unsloth.ai/docs/models/mtp) ist da! Führe [Gemma 4](https://unsloth.ai/docs/models/gemma-4) \~2x schneller mit MTP.
* Audio-Chat wird jetzt für Gemma 4 unterstützt (`wav`, `mp3`, `m4a`, `flac`, `webm`).
* Preserve Think wurde zu Gemma 4 hinzugefügt.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fszoidwwj70dLm5vBjpmL%2Fdiffusiongemma.gif?alt=media&amp;token=8ce359fd-f92c-4cf8-a491-06b04c505cb7" alt="" width="375"><figcaption></figcaption></figure>

#### Hub + Download-Manager (experimentell)

* Ein neuer **Hub** Seite zum Durchsuchen, Herunterladen und Verwalten von Hugging-Face-Modellen und Datensätzen.
* Unsloth kann jetzt Modelle und Datensätze erkennen, die bereits auf deinem Rechner vorhanden sind, und sie neben heruntergeladenen Assets anzeigen.
* Heruntergeladen [GGUF-Modelle](https://unsloth.ai/docs/basics/inference-and-deployment/saving-to-gguf) haben jetzt direkt **Ausführen / Neuer Chat** Aktionen.

#### RAG / Mit Dateien chatten (experimentell)

* Hinzugefügt [**Mit Dateien chatten**](https://unsloth.ai/docs/new/studio/chat) in Unsloth, sodass du Fragen zu deinen eigenen Dokumenten und Wissensdatenbanken stellen kannst.
* Unterstützt hybriden Suchmodus, Zitate, PDF-Vorschauen, threadbezogene Dokumente und ein integriertes `search_knowledge_base` Werkzeug.

#### Neue Update-Schaltfläche + Hardware-Unterstützung

* Unsloth verwendet jetzt ständig aktuelle [vorab kompilierte llama.cpp-Builds](https://unsloth.ai/docs/new/changelog) für CUDA, ROCm, Windows, Linux und macOS.
* Eine integrierte **llama.cpp aktualisieren** Schaltfläche wurde hinzugefügt, damit Nutzer das lokale Backend aktualisieren können, ohne Unsloth neu zu installieren.
* Verbesserte AMD-Unterstützung unter Windows / WSL, [ROCm-Unterstützung für Strix Halo](https://unsloth.ai/docs/get-started/install/amd), [Blackwell-CUDA-Auswahl](https://unsloth.ai/docs/blog/fine-tuning-llms-with-blackwell-rtx-50-series-and-unsloth)und klarere Installationsmeldungen.

#### Lokaler Chat, Tools & API-Kompatibilität

* Lokal [Tool-Aufrufe](https://unsloth.ai/docs/basics/tool-calling-guide-for-local-llms) ist zuverlässiger, mit besserer Reihenfolge der Tool-Karten, weniger doppelten Tool-Schleifen und Unterstützung für die Tool-Nutzung mit GGUF-Vision-Modellen.
* Verbesserte [OpenAI-kompatible API](https://unsloth.ai/docs/basics/inference-and-deployment/llama-server-and-openai-endpoint) und Anthropic-kompatibles API-Verhalten für lokale Unsloth-Server, einschließlich besserer Fehler, Token-Nutzung, Stoppgründe und [Claude-Code-Kompatibilität](https://unsloth.ai/docs/basics/claude-code).

#### Training & Fehlerbehebungen

* Verbesserte [MLX-Unterstützung](https://unsloth.ai/docs/new/studio/install) mit besseren Modellbeschriftungen, Statistiken zur Generierungsgeschwindigkeit und Fehlerbehebungen für [VLM-Training](https://unsloth.ai/docs/basics/vision-fine-tuning).
* Mehrere [Training](https://unsloth.ai/docs/get-started/fine-tuning-llms-guide) und [Datensatz](https://unsloth.ai/docs/get-started/fine-tuning-llms-guide/datasets-guide) Randfälle wurden behoben, darunter nicht beschreibbare Hugging-Face-Caches und benutzerdefinierte Datensatzzuordnungen.
* Es wurden viele UI-Feinschliff-Fehlerbehebungen für Chat, Menüs, Modellauswahl, Dark Mode, Import/Export und Einstellungen hinzugefügt.

Um Unsloth zu aktualisieren oder ein neues Unsloth Studio zu installieren, musst du Folgendes verwenden:

**macOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endupdate %}

{% update date="2026-06-03" tags="new-releases,v0.1.44-beta" %}

## Gemma 4 12B, neue UI, MCP, Projekte

Dieses Update konzentriert sich hauptsächlich auf Gemma 4 12B, MCP, Projekte, Canvas, CUDA 13.3 und die neue Chat-UI. Nächste Woche gibt es ein noch größeres Update.

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FoRn2YEPb9lJ81kP3GQQh%2Fwhats%20on%20ur%20mind.png?alt=media&amp;token=f388e42a-bb05-4a09-9cbf-ec699a6baf6b" alt="" width="375"><figcaption></figcaption></figure></div>

#### Gemma 4 12B

Google veröffentlicht [Gemma 4 12B](https://unsloth.ai/docs/models/gemma-4), ein neues Modell, das lokal auf 8 GB RAM läuft. [GGUF](https://huggingface.co/unsloth/gemma-4-12b-it-GGUF) / [Anleitung](https://unsloth.ai/docs/models/gemma-4)

Gemma 4 12B Unified unterstützt Bild, Audio und 256K Kontext. Führe das Modell über Unsloth Studio aus und trainiere es.

#### MCP

* Remote `MCP` Serverunterstützung, einschließlich benutzerdefinierter Header und OAuth
* Lokal befehlsbasiert `MCP` Serverunterstützung
* `MCP` kann jetzt im Chat-Composer aktiviert werden
* Integrierte Voreinstellungen für gängige `MCP` Server

#### Neue Chat-UI

* Projekte, Canvas, `MCP`, RAG- und Vergleichssteuerungen befinden sich jetzt im Plus-Menü
* Such- und Code-Steuerelemente sind im Composer leichter zugänglich
* Menüs, Overlays, Icons und anklickbare Steuerelemente sind in Unsloth konsistenter

#### Projekte

* Organisiere zusammengehörige Chats in dedizierten Projektarbeitsbereichen
* Verschiebe bestehende Chats in Projekte
* Erstelle und verwalte Projekte direkt über die Seitenleiste

#### Experimentelles Canvas / Artifacts

* Öffnet generiertes HTML in einem dedizierten Canvas-Panel innerhalb von Unsloth Studio
* Unterstützt interaktive Ausgaben, einschließlich browserbasierter Visualisierungen und über CDN geladener Pakete
* Ermöglicht dir, zwischen gerenderter Vorschau und Quellcode zu wechseln

#### Installation, Laufzeit und Hardware

* Vorab kompilierte Windows-Installationen erfordern nicht mehr die frühe `CUDA Toolkit` Prüfung
* Linux `llama.cpp` Vorab-Builds entsprechen jetzt der erkannten Laufzeit `cudart` Haupt-
* `ROCm` Die gfx-Erkennung wird in die Auswahl der Vorab-Builds weitergeleitet
* `Blackwell`, `B300` und `ARM64` Updates zur Linux-Unterstützung

Um Unsloth zu aktualisieren oder ein neues Unsloth Studio zu installieren, musst du Folgendes verwenden:

**macOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% hint style="warning" %}
**NICHT VERWENDEN `Unsloth-Studio-Update` nicht mehr, da das Paket nicht die neuesten Updates erhält!**
{% endhint %}
{% endupdate %}

{% update date="2026-05-31" tags="new-releases,v0.1.43-beta" %}

## CUDA 13.3, Windows, Mac

**Um Unsloth zu aktualisieren oder ein neues Unsloth Studio zu installieren, musst du Folgendes verwenden:**

**macOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% hint style="warning" %}
**NICHT VERWENDEN `Unsloth-Studio-Update` nicht mehr, da das Paket nicht die neuesten Updates erhält!**
{% endhint %}

#### Mac-Updates

* Wieder aktiviert `llama.cpp` vorab kompilierte Binärdateien für Apple Silicon (M1-M4) - Mac OS 14 / 15 / 26 (Tahoe)
* Apple-Silicon Mac OS 13 (Ventura) wird aus dem Quellcode erstellt
* Intel (x86\_64) für Mac OS 13.3 / 14 / 15 / 26 (Tahoe) verwendet `llama.cpp` vorab kompilierte Binärdateien
* Intel für Max 13.0 - 13.2 wird aus dem Quellcode erstellt

#### Windows-Updates

* CUDA 13.3 `llama.cpp` vorab kompilierte Binärdateien funktionieren jetzt unter Windows
* Für CUDA 13.2, CUDA 13.1 und darunter verwenden Windows-Geräte den CUDA-12.4-Fallback – wir arbeiten bald an CUDA-13.1-Binärdateien.

#### CUDA-13.3-Update

* Nicht-Linux-Binärdateien für CUDA 13.3 funktionieren. Vorerst verwenden wir weiterhin CUDA 13.1
* CUDA 13.3 löst das Kauderwelsch-Problem von CUDA 13.2 – siehe <https://github.com/unslothai/unsloth/issues/4849>

#### Update zu Blackwell-GPUs

* Für den Moment wird es bei Blackwell verzögerte Veröffentlichungen von `llama.cpp` vorab kompilierten Binärdateien geben, da CUDA 12.4 nicht funktioniert – wir arbeiten daran, das bald zu beheben.
  {% endupdate %}

{% update date="2026-05-26" tags="new-releases,v0.1.42-beta" %}

## Ein Update vor dem Redesign.

Hey Leute, wir machen noch ungefähr ein weiteres Update vor einem größeren Redesign, das wahrscheinlich diese oder nächste Woche kommt. Unser Redesign wird vieles ändern, insbesondere mit neuen großen Funktionen und vielen Designänderungen.

{% embed url="<https://github.com/user-attachments/assets/70456395-e016-4273-8256-35adb206267e>" %}

* NEU: [**Unterstützung für API-Aufrufe**](https://unsloth.ai/docs/integrations/connections) jetzt mit Bildgenerierung + Bearbeitung, richtiger Websuche, Codeausführung und automatischem Prompt-Caching. Verbinde [OpenAI](https://unsloth.ai/docs/integrations/connections/openai), [Anthropic](https://unsloth.ai/docs/integrations/connections/anthropic-claude) und mehr.
* Ordentliche Unterstützung für **nicht-englische Sprachen** z. B. Japanisch, Chinesisch, Indisch usw.

Viele von euch haben vielleicht unsere vorherige Veröffentlichung verpasst, die nur einen Tag lang verfügbar war. Wir haben eingeführt:

* Mit externen Inferenz-Backends verbinden: [vLLM](https://unsloth.ai/docs/integrations/connections/vllm), [Ollama](https://unsloth.ai/docs/integrations/connections/ollama), [llama-server](https://unsloth.ai/docs/integrations/connections/connect-llama.cpp-to-unsloth-run-ggufs-with-llama-server)
* **Sicherheitsverbesserungen**
* **Automatisches spekulatives Decoding mit MTP** für MTP-GGUFs; erhalte die besten Einstellungen, angepasst an deine Hardware.

#### API-Anbieter-Aufrufe & externe Verbindungen

* Du kannst Unsloth jetzt mit jedem API-Cloud-Anbieter verbinden (OpenAI, Anthropic, OpenRouter usw.)
* **Integrierte Websuche** für OpenAI, Anthropic, OpenRouter und Kimi
* **Integrierte Codeausführung** für OpenAI und Anthropic (Anthropic-Container bleiben bestehen und werden über mehrere Turns hinweg wiederverwendet)
* Prompt-Caching ist für OpenAI- und Anthropic-Modelle aktiviert und spart 50 bis 90 % der Kosten.
* Bildgenerierung + Bearbeitung
* API-Schlüssel sind für lokale Anbieter jetzt optional (llama.cpp / vLLM / Ollama)
* Modelle automatisch laden, wenn ein Cloud-Anbieter hinzugefügt wird

#### Weitere Unsloth-Studio-Updates

* OpenDocument-Chat-Anhänge
* o3-Reasoning-Zusammenfassungs-Payload
* Das Senden/Prompten nicht-englischer Sprachen (z. B. Japanisch, Chinesisch) funktioniert jetzt korrekt
* Härtung des IME-Composers, RTL `dir="auto"`, Behebung der Trunkierung langer Log-Zeilen
* Darstellung der Tool-Reasoning-Spur in der UI
* Vollständige Offline-Unterstützung: zwischengespeicherte GGUF-Erkennung und Offline-DNS-Autoerkennung sowohl für Inferenz als auch Training

#### Sicherheitsverbesserungen in Unsloth Studio

* Ratenbegrenzung für die Authentifizierung, proxy-bewusst, damit Reverse Proxys sie nicht umgehen
* Abgesicherter Worker mit verschärfter Sperrliste (bash, `hf upload`, `NOFILE`)
* Pfad-Einschluss, damit Worker nicht aus ihren laufenden tmp-Verzeichnissen entkommen können
* Strikte Schema-Validierung in der gesamten Unsloth-API
* Verschärfte CSP-/Sicherheits-Header (nur legitime Favicon-Hosts erlaubt)
* Entfernt wurde das `torch.load` Fallback auf `training_args.bin` damit nicht vertrauenswürdige Pickles beim Laden des Modells niemals ausgeführt werden können
* Verstärkter Tauri-Desktop-Release-Flow
* Frontend-Authentifizierung: Singleflight-Token-Refresh, Eingabe des aktuellen Passworts bei Änderungen, funktionierendes Logout, gemeinsamer 422-Helfer
* Die Abbruchbereinigung ist jetzt strikt auf laufende tmp-Verzeichnisse beschränkt, sodass sie niemals Benutzerzustand löschen kann
  {% endupdate %}

{% update date="2026-05-19" tags="new-releases,v0.1.41-beta" %}

## MTP + Unsloth-Fehlerbehebungen

Viele Fehlerbehebungen sowie UI- und UX-Verbesserungen für Unsloth! Um die neuesten Updates zu erhalten, führe Folgendes aus:

**macOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

#### Fehlerbehebungen

1. Beheben `Unsloth-Studio-Update` funktioniert nicht gut
2. Behebung, dass es bei `reset-password` Seite
3. Mehr Unterstützung für den Offline-Modus
4. Verbessere, dass MTP auf Macs, CPUs und GPUs nicht schneller war – jetzt ist es viel besser!
5. Behebt, dass die Desktop-Verknüpfung nach dem Update nicht funktioniert
6. Viele, viele UI/UX-Fehlerbehebungen
   {% endupdate %}

{% update date="2026-05-18" tags="new-releases,model-release,v0.1.405-beta" %}

## Qwen3.6 MTP + API-Verbindungen

Wir haben viele neue Updates für Unsloth `v0.1.41-beta`:

* **\~2x schnellere GGUF-Inferenz** mit automatisch aktiviertem [MTP](/docs/de/modelle/qwen3.6.md#mtp-guide)
* [**Unterstützung für API-Aufrufe**](/docs/de/integrationen/connections.md) für [OpenAI](/docs/de/integrationen/connections/openai.md), [Anthropic](/docs/de/integrationen/connections/anthropic-claude.md) usw. mit automatischem Prompt-Caching, Websuche und Codeausführung
* Mit externen Inferenz-Backends verbinden: [vLLM](/docs/de/integrationen/connections/vllm.md), [Ollama](/docs/de/integrationen/connections/ollama.md), [llama-server](/docs/de/integrationen/connections/llama.cpp-mit-unsloth-verbinden-ggufs-mit-llama-server-ausfuhren.md)
* Experimentell **MLX-Inferenz**
* Ordentliche Unterstützung für **nicht-englische Sprachen**
* **Sicherheit** Verbesserungen

<a href="/pages/efc00d6b1d286a029d0eec8a5a6a24d50b063840#qwen3.6-inference-tutorials" class="button primary">Qwen3.6-Tutorials ausführen</a><a href="/docs/de/modelle/qwen3.6.md#mtp-guide" class="button primary">MTP-Leitfaden</a>

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F0abq31rgj0gOSH9vnpQ6%2Fmtp.gif?alt=media&amp;token=c66ec3f5-91f0-4617-824c-c537a2dde8b0" alt="" width="375"><figcaption></figcaption></figure></div>

#### MTP-Unterstützung für spekulatives Decoding: 1,4- bis 2x schnellere Inferenz!

* **Automatisches spekulatives Decoding mit MTP** für MTP-GGUFs; warne, wenn der mitgelieferte llama.cpp-Vorab-Build veraltet oder zu alt für MTP ist
* Neue vorgefertigte llama.cpp-Binärdateien für MTP-Unterstützung!

#### API-Anbieter-Aufrufe & externe Verbindungen

* Du kannst Unsloth jetzt mit jedem API-Cloud-Anbieter verbinden (OpenAI, Anthropic, OpenRouter usw.)
* **Integrierte Websuche** für OpenAI, Anthropic, OpenRouter und Kimi
* **Integrierte Codeausführung** für OpenAI und Anthropic (Anthropic-Container bleiben bestehen und werden über mehrere Turns hinweg wiederverwendet)
* Prompt-Caching ist für OpenAI- und Anthropic-Modelle aktiviert und spart 50 bis 90 % der Kosten.
* API-Schlüssel sind für lokale Anbieter jetzt optional (llama.cpp / vLLM / Ollama)
* Modelle automatisch laden, wenn ein Cloud-Anbieter hinzugefügt wird

#### MLX-Inferenz (experimentell)

* MLX-Quants und -Modelle können jetzt lokal auf deinen Mac-Rechnern laufen!
* Wir werden bald Denken, Tools und Websuche hinzufügen!

#### Weitere Unsloth-Studio-Updates

* Das Senden/Prompten nicht-englischer Sprachen (z. B. Japanisch, Chinesisch) funktioniert jetzt korrekt
* OpenDocument-Chat-Anhänge
* o3-Reasoning-Zusammenfassungs-Payload
* Härtung des IME-Composers, RTL `dir="auto"`, Behebung der Trunkierung langer Log-Zeilen
* Darstellung der Tool-Reasoning-Spur in der UI
* Vollständige Offline-Unterstützung: zwischengespeicherte GGUF-Erkennung und Offline-DNS-Autoerkennung sowohl für Inferenz als auch Training
* Viele UI/UX-Feinschliffe: Refactoring des Dark Themes, Neugestaltung der rechten Seitenleiste, Faultier-Maskottchen je nach Tageszeit, wegklickbare und kopierbare Toasts, größerer Chat-Composer, Feinschliff der Codeausführungs-Konfiguration, Styling der Composer-Aktions-Pills, schmalerer Discord-Button

#### Trainingsupdates

* Fehlerbehebungen für Gemma-Attention-Masken
* Multi-Image-GRPO
* Experimente zur Rückgabe von GRPO-Hidden-States
* Neue Continued-Pretraining-(CPT)-Trainingsmethode als erstklassige Option
* Gemma-4-MoE-LoRA-Extraktor registriert, um zu beheben `grouped_mm` Absturz bei der Kontraktion
* Optionales fusioniertes `lm_head` + Cross-Entropy-Forward, mit Single-Matmul-Pfad unter `UNSLOTH_RETURN_LOGITS=1`
* Batchgröße für die Auswertung übergeben
* Auswertungs-/Trainingspfade berücksichtigen jetzt `HF_DATASETS_OFFLINE` zusammen mit `HF_HUB_OFFLINE`

#### Sicherheitsverbesserungen in Unsloth Studio

* Ratenbegrenzung für die Authentifizierung, proxy-bewusst, damit Reverse Proxys sie nicht umgehen
* Abgesicherter Worker mit verschärfter Sperrliste (bash, `hf upload`, `NOFILE`)
* Pfad-Einschluss, damit Worker nicht aus ihren laufenden tmp-Verzeichnissen entkommen können
* Strikte Schema-Validierung in der gesamten Unsloth-API
* Verschärfte CSP-/Sicherheits-Header (nur legitime Favicon-Hosts erlaubt)
* Entfernt wurde das `torch.load` Fallback auf `training_args.bin` damit nicht vertrauenswürdige Pickles beim Laden des Modells niemals ausgeführt werden können
* Verstärkter Tauri-Desktop-Release-Flow
* Frontend-Authentifizierung: Singleflight-Token-Refresh, Eingabe des aktuellen Passworts bei Änderungen, funktionierendes Logout, gemeinsamer 422-Helfer
* Die Abbruchbereinigung ist jetzt strikt auf laufende tmp-Verzeichnisse beschränkt, sodass sie niemals Benutzerzustand löschen kann
  {% endupdate %}

{% update date="2026-05-05" tags="new-releases,v0.1.39-beta,v0.1.38-beta" %}

## Unsloth-API-Endpunkt

#### ***Fehlerbehebung in v0.1.39-beta*** **5. Mai 2026**

Behebt, dass der Chatverlauf nicht angezeigt wird (der vorhandene Chatverlauf geht nicht verloren) und Anhänge nicht korrekt angehängt werden. Der Fehler betraf nur die Darstellung – verwende `2026.5.2` oder rufe direkt auf `curl -fsSL https://unsloth.ai/install.sh | sh`  um zu aktualisieren

Du kannst lokale LLMs mit Tools wie [Claude Code](https://unsloth.ai/docs/basics/claude-code) und [Codex](https://unsloth.ai/docs/basics/codex) indem du sie mit Unsloths API-Endpunkt verbindest. Dadurch kannst du Modelle wie [Qwen](https://unsloth.ai/docs/models/qwen3.6) und [Gemma](https://unsloth.ai/docs/models/gemma-4) lokal ausführen, mit zusätzlichen Funktionen wie selbstheilenden Tool-Aufrufen, Codeausführung und Websuche.

Unsloth als API-Inferenz-Endpunkt zu verwenden ist nicht nur deshalb vorteilhaft, weil es einfach einzurichten und schnell ist, sondern auch, weil Unsloth Folgendes bietet:

* [Selbstheilende Tool-Aufrufe](https://unsloth.ai/docs/new/studio/chat#auto-healing-tool-calling), wodurch fehlerhafte oder fehlerhaft formatierte Tool-Aufrufe um 50 % reduziert werden
* [Codeausführung](https://unsloth.ai/docs/new/studio/chat#code-execution) Unterstützung, die Bash- und Python-Ausführung für genauere Codeausgaben ermöglicht.
* Erweitert [Websuche](https://unsloth.ai/docs/new/studio/chat#advanced-web-search) die Webseiten besucht und tatsächlich liest, um detaillierte Informationen zu sammeln.
* [Automatische Inferenz-Einstellungen](https://unsloth.ai/docs/new/studio/chat#auto-parameter-tuning) für GGUF-Modelle (temp, top-k usw.)

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F1s98Id9xclzwMfxjXw2O%2Funsloth%20api%20cropped.png?alt=media&amp;token=64fac263-ca5b-4447-a740-41f58ec94904" alt="" width="375"><figcaption></figcaption></figure></div>

#### Neue Modelle

Wir haben außerdem einige neue Modelle zum Ausführen, darunter NVIDIA [Nemotron 3 Nano Omni](/docs/de/modelle/nemotron-3-nano-omni.md), IBM [Granite 4.1](/docs/de/modelle/ibm-granite-4.1.md) und [Mistral 3.5](/docs/de/modelle/mistral-3.5.md) Medium. Wir haben Mistral geholfen, einige Probleme mit der Implementierung in Transformers und GGUFs zu lösen.

#### Unsloth-Updates

* Gestoppte Unsloth-Trainingsläufe können jetzt von Checkpoints fortgesetzt werden.
* Chat-Threads werden jetzt zuverlässiger automatisch gespeichert und beibehalten.
* Hänger beim DPO-Training in Multi-Prozess-Setups wurden behoben.
* Die VLM-GRPO-Unterstützung wurde mit MROPE-Updates verbessert.
* Der Stopp-Button von Unsloth stoppt die Generierung jetzt korrekt.
* Behebt, dass die Chat-Vorlage nach dem Aktualisieren des Browsers verschwindet.
  {% endupdate %}

{% update date="2026-04-23" tags="new-releases,v0.1.37-beta" %}

## Brandneues UI-Redesign

Hey Leute, wir haben die gesamte UI- und UX-Erfahrung von Unsloth Studio überarbeitet, um den Fokus auf Chat und Training zu legen:

* Eine einklappbare Seitenleiste wurde basierend auf Community-Feedback hinzugefügt

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FKoonE97b0H3RioMwVohd%2Fstudio%20new%20ui.gif?alt=media&amp;token=e37f2839-914e-48b8-8c81-2dac3ade9408" alt="" width="375"><figcaption></figcaption></figure></div>

* Du kannst jetzt Chats löschen und vergangene Unterhaltungen durchsuchen

<div><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fm6se3dOmBZH9d9Wlif4W%2FScreenshot%202026-04-23%20at%206.15.38%E2%80%AFAM.png?alt=media&amp;token=e83fe246-1f88-4bf7-aa15-baf7d3356676" alt=""><figcaption></figcaption></figure> <figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2Fa4EGTdaWQ6EA81PeC3JZ%2FScreenshot%202026-04-23%20at%206.01.36%E2%80%AFAM.png?alt=media&amp;token=1a1cc50d-e0e0-47cd-9c1a-80583a887794" alt=""><figcaption></figcaption></figure></div>

* Neuer Preserve-Thinking-Schalter für Modelle, die es unterstützen, wie Qwen3.6
* Klareres, konsistenteres Design mit einfacherer Navigation
* Erweiterte Einstellungsseite mit Optionen zum Ändern deines Profilbilds, Namens und mehr

<div data-with-frame="true"><figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FvMtRDH8cVXCu08OZ4TRf%2FScreenshot%202026-04-23%20at%206.18.35%E2%80%AFAM.png?alt=media&amp;token=d989c4b5-6293-402c-981c-3209b7e7d750" alt="" width="375"><figcaption></figcaption></figure></div>

* Kein doppeltes Eingeben deines Hugging-Face-Tokens mehr
* gpt-oss hat jetzt Umschalter für niedriges, mittleres und hohes Denken.
* Verwendet jetzt das neueste vorgefertigte llama.cpp, sogar unter Linux CUDA
* Viele Bugfixes sowie Konsistenz- und Stabilitätsverbesserungen
* Kimi-K2.6 kann jetzt ausgeführt werden!
* Wir haben außerdem experimentelle API-Unterstützung hinzugefügt. Anleitungen, Ankündigungen usw. folgen nächste Woche.

Qwen3.6 wurde zuvor ebenfalls bereits in Unsloth Studio zum Ausführen und Trainieren unterstützt. Du kannst Qwen3.6-27B jetzt sofort trainieren und ausführen!
{% endupdate %}

{% update date="2026-04-22" tags="model-release,new-releases" %}

## **Qwen3.6-27B + Kimi K2.6**

[**Qwen3.6-27B**](/docs/de/modelle/qwen3.6.md) kann jetzt in Unsloth Studio ausgeführt (18 GB RAM) und feinabgestimmt werden. Kimi K2.6 kann auch in Unsloth ausgeführt werden (350 GB RAM).

Unsloth Studio hat viele neue Updates erhalten, also bitte aktualisieren. Details und ein ausführlicher Beitrag folgen in den nächsten Tagen.
{% endupdate %}

{% update date="2026-04-16" tags="model-release,new-releases" %}

## **Qwen3.6**

[**Qwen3.6**](/docs/de/modelle/qwen3.6.md) kann jetzt in Unsloth Studio ausgeführt und feinabgestimmt werden. Das Modell läuft auf 23 GB RAM und ist das stärkste mittelgroße LLM in nahezu allen Benchmarks.
{% endupdate %}

{% update date="2026-04-11" tags="model-release" %}

## **Gemma-4-Update + MiniMax-M2.7**

[Gemma-4-GGUFs](https://huggingface.co/collections/unsloth/gemma-4) werden jetzt mit den offiziellen Chat-Template-Korrekturen von Google aktualisiert (was das Tool-Calling behoben/verbessert hat), zusammen mit den neuesten llama.cpp-Fixes. Aktualisiere auf die neueste llama.cpp-Version, lade die Quants neu herunter, und du solltest keine `ungenutzte Token` Probleme mehr sehen.\
\
[MiniMax-M2.7](/docs/de/modelle/tutorials/minimax-m27.md) ist jetzt da! Du kannst das Modell lokal mit unseren GGUFs in 4-Bit-Quantisierung auf 128 GB RAM / gemeinsamem Speicher ausführen. [**MiniMax-M2.7-GGUF**](https://huggingface.co/unsloth/MiniMax-M2.7-GGUF)
{% endupdate %}

{% update date="2026-04-08" tags="new-releases,v0.1.36-beta" %}

## **Gemma-4-Korrekturen**

Wir haben Gemma 4 aktualisiert [mit vielen Korrekturen](/docs/de/modelle/gemma-4/train.md). Diese Fehler sind universell und betrafen alle Trainingspakete und Implementierungen und **stammten nicht von Unsloth**. Wir haben die Fehler identifiziert, behoben, und das Training von Gemma 4 funktioniert in Unsloth jetzt korrekt.

Du brauchst nur **8 GB VRAM** zum Trainieren **Gemma-4-E2B** lokal. Unsloth trainiert Gemma 4 **\~1,5x schneller und verwendet dabei \~60 % weniger VRAM** als FA2-Setups. Für die vollständige Anleitung und Notebooks zum Training von Gemma 4, [siehe unseren Blog](/docs/de/modelle/gemma-4/train.md).

#### Gemma-4-Trainingskorrekturen

1. **Gradientenakkumulation** führt nicht mehr zu Loss-Explosionen. Zuvor konnten die Losses auf **300–400**ansteigen; der erwartete Loss liegt bei etwa **10–15**.
2. Behoben wurde der **IndexError** der **26B** und **31B** Inference in `Transformers`.
3. Behoben wurden Kauderwelsch-Ausgaben für **E2B/E4B** wenn `use_cache=False`. Siehe [Issue #45242](https://github.com/huggingface/transformers/issues/45242).
4. Behoben **Float16-Audio** Überlauf von `-1e9` Werten.

Wenn du Losses über **13–15,** siehst zum Beispiel **100** oder **300** - wird die Gradientenakkumulation wahrscheinlich falsch gehandhabt. Das ist in beiden behoben **Unsloth** und **Unsloth Studio**.

#### Gemma-4-Quant-Re-Uploads

Wir haben außerdem unsere Gemma-4-GGUFs aktualisiert, also musst du sie erneut herunterladen. Auch diese Quantisierungsprobleme sind **nicht mit Unsloth verknüpft oder von Unsloth verursacht**:

1. CUDA: vor dem Fusen auf Überlappung von Puffern prüfen - kritischer Fix für `<unused24>` Tokens - [PR #21566](https://github.com/ggml-org/llama.cpp/pull/21566)
2. `KV-Cache`: Unterstützung für Aufmerksamkeitsrotation für heterogene iSWA - [PR #21513](https://github.com/ggml-org/llama.cpp/pull/21513)
3. `Vokabular`: Byte-Token-Behandlung zum BPE-Detokenizer für Gemma 4 hinzufügen - [PR #21488](https://github.com/ggml-org/llama.cpp/pull/21488)
4. `konvertieren`: setze `"add bos" == True` für Gemma 4 - [PR #21500](https://github.com/ggml-org/llama.cpp/pull/21500)
5. `gemeinsam`: füge einen spezialisierten Gemma-4-Parser hinzu - [PR #21418](https://github.com/ggml-org/llama.cpp/pull/21418)
6. `llama-model`: lese `final_logit_softcapping` für Gemma 4 - [PR #21390](https://github.com/ggml-org/llama.cpp/pull/21390)
7. `llama`: füge benutzerdefinierten Zeilenumbruch-Split für Gemma 4 hinzu - [PR #21406](https://github.com/ggml-org/llama.cpp/pull/21406)

#### Unsloth Studio-Updates

* Hinzufügen **spekulativer Dekodierung** Unterstützung (ngram-mod, standardmäßig aktiviert)
* Llama.cpp wurde auf die neueste Version mit allen Gemma-4-Korrekturen aktualisiert
* Korrigiere Trainingsprobleme bei Qwen3.5 und Gemma 4
* Exportieren und Speichern von Gemma-4-Modellen aktivieren
* Sandbox-Sicherheit für Terminal- und Python-Tools härten
* Rezepte das in Chat geladene Modell verwenden lassen
* Leere Chat-Threads bei der Navigation beheben (und beim Wechseln von Tabs) und neuen Chat-Ablauf stabilisieren
* Nicht-LLM-Rezepte ausführen lassen und den Daten-Tab bei Ausführungen an die erste Stelle verschieben
* Zwischengespeichertes HF-Repository-Groß-/Kleinschreibung wiederverwenden, um doppelte Downloads zu verhindern
  {% endupdate %}

{% update date="2026-04-03" tags="new-releases,v0.1.36-beta" %}

## **Google - Gemma 4**

* Du kannst jetzt das [Gemma 4](/docs/de/modelle/gemma-4.md) Modelle in Unsloth ausführen und trainieren.
* Intel-Mac funktioniert jetzt
* Vorkompilierte Binaries für llama.cpp für 2 Gemma-4-Fixes:
  * Vokabular: Gemma4-Tokenizer beheben ([#21343](https://github.com/ggml-org/llama.cpp/pull/21343))
  * Fix: Gemma-4-Template ([#21326](https://github.com/ggml-org/llama.cpp/pull/21326))
* Tool-Aufrufe für kleinere Modelle sind jetzt stabiler und werden nicht mehr abgeschnitten
* Vorkompilierte Binaries für Windows-, Linux-, Mac- und WSL-Geräte – CPU und GPU
* Spekulative Dekodierung für Nicht-Vision-Modelle hinzugefügt (Gemma-4 ist leider Vision und Qwen3.5)
* Kontextlänge wird jetzt korrekt angewendet.
* Websuche erhält jetzt tatsächlich Webinhalte und nicht nur Zusammenfassungen
* 90 % weniger HF-API-Aufrufe - weniger Rate Limits
  {% endupdate %}

{% update date="2026-03-31" tags="new-releases,improvements" %}

## **+50 % höhere Genauigkeit bei Tool-Aufrufen + mehr Unterstützung**

* Tool-Aufrufe für alle Modelle sind jetzt **+30 % bis +80 % genauer.**
* Websuche erhält jetzt tatsächlich Webinhalte und nicht nur Zusammenfassungen
* Die Anzahl erlaubter Tool-Aufrufe wurde von 10 auf 25 erhöht
* Tool-Aufrufe beenden jetzt viel besser, sodass Schleifen / Wiederholungen reduziert werden
* Mehr **Reparatur von Tool-Aufrufen** und Deduplizierungslogik, um auch zu verhindern, dass Tool-Calls XML durchsickern lassen
* Getestet mit `unsloth/Qwen3.5-4B-GGUF` (`UD-Q4_K_XL`), Websuche + Codeausführung + Denken aktiviert.

| Metrik                        | Vorher | Nachher    |
| ----------------------------- | ------ | ---------- |
| XML-Leaks in der Antwort      | 10/10  | 0/10       |
| Verwendete URL-Abrufe         | 0      | 4/10 Läufe |
| Läufe mit korrekten Songnamen | 0/10   | 2/10       |
| Durchschn. Tool-Aufrufe       | 5.5    | 3.8        |
| Durchschn. Antwortzeit        | 12,3 s | 9,8 s      |

#### Neue Funktionen

* Hinzugefügt **benutzerdefinierte Ordner** sodass du beliebige GGUFs in jedem Ordner verwenden kannst – vorerst Zugriff in den erweiterten Einstellungen in Chat und Benutzerdefinierte Ordner
* **Update-Button** jetzt sichtbar
* Installationsskript-Design komplett aktualisiert!
* Vorläufige **Automatische Multi-GPU-Unterstützung für Inferenz und Training** - nützlich für große Modelle, die nicht auf 1 GPU passen - Unsloth auto weist GPU-Ressourcen zu
* Intel-Macs sollten out of the box funktionieren

Deutlich flüssigeres und schnelleres Unsloth

* **Zeitüberschreitungen beim Herunterladen großer Modelle behoben** - keine Zeitüberschreitungen mehr zu sehen.
* **Hugging-Face-Rate-Limiting behoben - HF-API-Aufrufe um 90 % reduziert**
* bun unter Windows behoben und schnellere Installationen
  {% endupdate %}

{% update date="2026-03-27" tags="new-releases,fixes,improvements" %}

## **Neue wichtige Updates**

Es sind erst 2 Tage seit unserem letzten Release vergangen, aber wir haben ein wichtigeres Update:

* **Inferenz ist jetzt 20–30 % schneller.** Zuvor konnten Tool-Calling und Repeat Penalty die Inferenz unter normale Geschwindigkeiten verlangsamen. Die Inferenz-Tokens/s sollten jetzt genauso performen wie `llama-server` / `llama.cpp`.
* **Erkennt ältere oder bereits vorhandene Modelle jetzt automatisch** heruntergeladen von **LM Studio, Hugging Face,** und ähnlichen Quellen.
* **Die Geschwindigkeit der Inferenz-Token/s wird jetzt korrekt berechnet.** Zuvor enthielten Tokens/s die Startzeit, wodurch die angezeigte Geschwindigkeit langsamer aussah, als sie tatsächlich war. Sie sollte jetzt die 'echte' Inferenzgeschwindigkeit widerspiegeln.
* **CPU-Auslastung steigt nicht mehr sprunghaft an.** Zuvor änderte sich die Identität des Inline-Queriers bei jedem Rendern, wodurch `useLiveQuery` kontinuierlich neu abonniert wurde.
* **Unsloth Studio hat jetzt einen Shutdown-X-Button und fährt korrekt herunter.** Zuvor würde das Schließen nach dem Öffnen über das Desktop-Symbol es nicht richtig schließen. Jetzt öffnet das Starten über die Verknüpfung auch das Terminal, und das Schließen dieses Terminals beendet Unsloth Studio vollständig. Wenn du es noch aus einer vorherigen Sitzung geöffnet hast, kannst du deinen Computer neu starten oder `lsof -i :8888` dann `kill -9 <PID>`.
* **Noch besseres Tool-Calling und Websuche** mit weniger Fehlern.
* Aktualisierte Dokumentation mit vielen neuen Informationen zu [Modellen löschen, deinstallieren](/docs/de/neu/studio/install.md#uninstall) usw.
* **Saubereres, intelligenteres Installations- und Setup-Logging unter Windows und Linux.** Die Ausgabe ist jetzt mit konsistenter Formatierung leichter zu lesen, standardmäßig leiser für ein reibungsloseres Erlebnis, und unterstützt umfangreichere `--verbose` Diagnosen, wenn du volle technische Details willst.
* Du kannst jetzt deinen Trainingsverlauf ansehen!
  {% endupdate %}

{% update date="2026-03-25" tags="new-releases,fixes,improvements" %}

## Erster Release-Post nach Unsloth Studio

Hey Leute, das ist unser erster Release seit dem Start von Unsloth Studio. Viele neue Funktionen und Fixes:

* **Du kannst Unsloth Studio jetzt aktualisieren!** Bitte aktualisiere über dieselben Installationsbefehle.
* **Windows** CPU oder GPU funktioniert jetzt nahtlos. Bitte neu installieren!
* **App-Verknüpfungen**. Nach der Installation kannst du jetzt unter Windows, MacOS und Linux über ein Verknüpfungssymbol im Startmenü / Launcher und auf dem Desktop starten.
* **Vorkompilierte `llama.cpp` Binaries** und `mamba_ssm` - 6x schnellere Installationen! Außerdem <300 MB groß für Binaries.
* **50 % reduzierte Installationsgrößen** (-7 GB oder mehr Einsparung), 2x schnellere Installationen und schnelleres Auflösen. 50 % kleinere PyPI-Größen.
* **Tool-Calling verbessert.** Besseres llama.cpp-Parsing, kein rohes Tool-Markup im Chat, schnellere Inferenz, ein neues Tool-Ausgabe-Panel, Timer.
* MacOS und CPU haben jetzt [Daten-Rezepte](/docs/de/neu/studio/data-recipe.md) mit Mehrdatei-Upload aktiviert.
* **AMD-Unterstützung vorläufig für Linux** nur Maschinen - automatische Erkennung.
* **Neugestaltung der Einstellungs-Seitenleiste.** Einstellungen sind jetzt gruppiert in **Modell, Sampling, Tools und Einstellungen**
* **Kontextlänge** jetzt anpassbar. Bedenke, dass dies nicht nötig ist, da llama.cpp den exakten Kontext, den du brauchst, intelligent über `--fit on`
* **Mehrdatei-Upload.** Datenrezepte unterstützen jetzt mehrere Drag-and-drop-Uploads für PDF, DOCX, TXT und MD, mit Backend-Extraktion, gespeicherten Uploads und verbesserten Vorschauen.
* **Colab** mit kostenlosen T4-GPUs mit Unsloth Studio jetzt behoben! [Probiere es hier aus](https://colab.research.google.com/github/unslothai/unsloth/blob/main/studio/Unsloth_Studio_Colab.ipynb). Durch vorkompilierte Binaries ist es außerdem 20x schneller!
* **Bessere Chat-Beobachtbarkeit.** Unsloth zeigt jetzt `llama-server` Zeiten und Nutzung, eine Auslastungsleiste für das Kontextfenster und umfangreichere Hover-Karten für Quellen an.
* **Insgesamt bessere UX** - anklickbare Links, bessere LaTeX-Analyse, Tool-/Code-/Web-Tooltips für Standardkarten und vieles mehr!
* **LiteLLM -** Unsloth Studio und Unsloth waren **NICHT** vom jüngsten LiteLLM-Kompromiss betroffen. Nemo Data Designer verwendete LiteLLM nur bis `1.80`, nicht den betroffenen `1.82.7` oder `1.82.8`, und hat es inzwischen vollständig entfernt.
* Wir haben jetzt einen neuen Ein-Zeilen-Installationsbefehl, führe einfach aus:&#x20;

  <pre class="language-bash" data-overflow="wrap" data-expandable="true"><code class="lang-bash">curl -fsSL https://unsloth.ai/install.sh | sh
  </code></pre>

#### **Korrekturen:**

* **Verbesserungen bei Windows/Setup.** Behebung stiller Windows-Beendigungen, Abstürze beim Start von Anaconda/conda-forge, fehlerhafte Windows-Installationen ohne NVIDIA und fehlende frühe CUDA-/stale-venv-Setup-Prüfungen.
* **System-Prompts behoben.** Sie funktionieren wieder für Nicht-GGUF-Text- und Vision-Inferenz.
* **Persistente System-Prompts und Presets.** Benutzerdefinierte System-Prompts und Chat-Presets bleiben jetzt über Neuladungen und Seitenwechsel hinweg erhalten.
* **GGUF-Export erweitert.** Vollständige Fine-Tunes, nicht nur LoRA/PEFT, können jetzt in GGUF exportiert werden. Die Basis-Modellauflösung ist zuverlässiger, und nicht unterstützte Exportoptionen sind in der Benutzeroberfläche deaktiviert.
* **Chat-Scroll-/Layout-Korrekturen.** Probleme mit der Scrollposition während der Generierung, Layoutverschiebung des Thinking-Panels und Viewport-Sprüngen beim Einklappen von Reasoning-Panels behoben.
* **Intelligentere Erkennung von Portkonflikten.** Unsloth erkennt jetzt Loopback-Konflikte, kann nach Möglichkeit den blockierenden Prozess identifizieren und gibt klarere Nachrichten zu Ausweichports aus.
  {% endupdate %}

{% update date="2026-03-17" tags="fixes,improvements" %}

## Neues Tool-Calling + Windows-Stabilität

* Claude Artifacts funktioniert, sodass HTML wie ein Snake-Spiel innerhalb des Chats ausgeführt werden kann
* +30 % genauere Tool-Aufrufe, besonders für kleine Modelle + Timer für Tool-Aufrufe
* Tool- und Websuche-Ausgaben können gespeichert werden + automatisches Heilungs-Tool ein-/ausschalten
* Viele Bugfixes - Windows-CPU funktioniert, Mac nahtloser, schnellere und kleinere Installationen
  {% endupdate %}
  {% endupdates %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/neu/changelog.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.