rssRSS-Feed

sparklesUnsloth-Updates

Unsloth-Änderungsprotokoll für unsere neuesten Veröffentlichungen, Verbesserungen und Fehlerbehebungen.

Um die neuesten Änderungen zu nutzen, aktualisiere Unsloth über unsloth studio update.

Erster Release nach Unsloth Studio

Hey Leute, dies ist unser erster Release, seit wir Unsloth Studio gestartet haben. Viele neue Funktionen und Fehlerbehebungen:

  • Du kannst Unsloth Studio jetzt aktualisieren! Bitte aktualisiere über: unsloth studio update

  • Windows CPU oder GPU funktioniert jetzt nahtlos. Bitte neu installieren!

  • App-Kurzbefehle. Nach der Installation kannst du jetzt unter Windows, MacOS und Linux über ein Shortcut-Symbol im Startmenü / Launcher und auf dem Desktop starten.

  • Vorcompiliert llama.cpp Binärdateien und mamba_ssm für das Fine-Tuning – 6x schnellere Installationen! Außerdem <300 MB groß für Binärdateien.

  • 50 % reduzierte Installationsgrößen (-7 GB oder mehr Einsparung), 2x schnellere Installationen und schnelleres Auflösen von Abhängigkeiten. 50 % kleinere pypi-Größen.

  • Tool-Aufrufe verbessert. Besseres llama.cpp-Parsing, kein rohes Tool-Markup im Chat, schnellere Inferenz, ein neues Tool-Ausgabe-Panel, Timer.

  • Colab mit kostenlosen T4-GPUs mit Unsloth Studio jetzt behoben! Teste es hierarrow-up-right. Aufgrund der vorcompilierten Binärdateien ist es außerdem 20x schneller!

  • MacOS und CPU haben jetzt Datenrezepte mit Multi-Datei-Upload aktiviert.

  • Du kannst jetzt alte GGUFs von Hugging Face oder LM Studio korrekt verwenden

  • AMD-Unterstützung vorläufig für Linux nur Maschinen – automatische Erkennung.

  • Neugestaltung der Einstellungs-Seitenleiste. Einstellungen sind jetzt gruppiert in Modell, Sampling, Tools und Einstellungen

  • Kontextlänge jetzt anpassbar. Beachte, dass dies nicht nötig ist, da llama.cpp den exakt benötigten Kontext intelligent über --fit auf

  • Persistente System-Prompts und Presets. Benutzerdefinierte System-Prompts und Chat-Presets bleiben jetzt über Neuladungen und Seitenwechsel hinweg erhalten.

  • Multi-Datei-Upload. Datenrezepte unterstützen jetzt mehrere Drag-and-Drop-Uploads für PDF, DOCX, TXT und MD, mit Extraktion im Backend, gespeicherten Uploads und verbesserten Vorschauen.

  • Bessere Chat-Observability. Studio zeigt jetzt llama-server Zeitmessungen und Nutzung, eine Kontextfenster-Nutzungsleiste und umfangreichere Hover-Karten für Quellen.

  • Insgesamt bessere UX - anklickbare Links, besseres LaTeX-Parsing, Tool-/Code-/Web-Tooltips für Standardkarten und vieles mehr!

  • LiteLLM - Unsloth Studio und Unsloth waren NICHT vom jüngsten LiteLLM-Kompromittierung betroffen. Nemo Data Designer verwendete LiteLLM nur bis 1.80, nicht die betroffenen 1.82.7 oder 1.82.8, und hat es seitdem vollständig entfernt.

  • Wir haben jetzt einen neuen Installationsbefehl in einer Zeile, einfach ausführen:

Fehlerbehebungen:

  • Verbesserungen bei Windows/Setup. Stille Windows-Beendigungen, Abstürze beim Start mit Anaconda/conda-forge, fehlerhafte Windows-Installationen ohne NVIDIA und fehlende frühe CUDA-/stale-venv-Setup-Prüfungen behoben.

  • System-Prompts behoben. Sie funktionieren wieder für Nicht-GGUF-Text- und Vision-Inferenz.

  • GGUF-Export erweitert. Vollständige Fine-Tunes, nicht nur LoRA/PEFT, können jetzt nach GGUF exportieren. Die Basismodell-Auflösung ist zuverlässiger, und nicht unterstützte Exportoptionen sind in der UI deaktiviert.

  • Korrekturen beim Chat-Scrollen/Layout. Probleme mit der Scrollposition während der Generierung, Layout-Verschiebungen im Thinking-Panel und Sprünge im Ansichtsfenster beim Einklappen von Reasoning-Panels behoben.

  • Intelligentere Erkennung von Portkonflikten. Studio erkennt jetzt Loopback-Konflikte, kann den blockierenden Prozess wenn möglich identifizieren und gibt klarere Meldungen zum Fallback-Port aus.

Neue Tool-Aufrufe + Windows-Stabilität

  • Claude Artifacts funktioniert, sodass HTML wie ein Snake-Spiel innerhalb des Chats ausgeführt werden kann

  • +30 % genauere Tool-Aufrufe, besonders für kleine Modelle + Timer für Tool-Aufrufe

  • Tool- + Websuche-Ausgaben können gespeichert werden + automatisches Heilungs-Tool ein-/ausschalten

  • Viele Fehlerbehebungen - Windows-CPU funktioniert, Mac nahtloser, schnellere und kleinere Installationen

Zuletzt aktualisiert

War das hilfreich?