> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/de/modelle/muse-spark-open.md).

# Meta Muse Spark Open – Anleitung zum lokalen Ausführen

Erfahren Sie, wie Sie das neue Muse-Spark-Open-Modell von Meta ausführen.

Muse Spark Open ist Metas neues **816B-Parameter** MoE-Modell (\~42,7B aktiv), entwickelt für multimodales Coding und agentische Workflows. Muse-Spark-Open-**816B-A42B** unterstützt **Text-, Bild-, Video- und Audioeingaben**, Textausgabe und ein **1M-Token-Kontextfenster**.

Dieser Leitfaden behandelt die Ausführung von Meta Superintelligence Labs’ Muse Spark Open mit Unsloth [Dynamische GGUFs](https://sites.gitbook.com/preview/site_mXXTe/~/revisions/OKhxydnrrRuNu350geRP/basics/dynamic-3.0-ggufs) für optimale Leistung über [Unsloth Desktop](https://sites.gitbook.com/preview/site_mXXTe/~/revisions/OKhxydnrrRuNu350geRP/models/muse-spark-1.2#unsloth-guide) oder llama.cpp. Die 2-Bit-Quantisierung passt auf Geräte mit 256 GB RAM, VRAM oder Unified Memory. Danke an Meta für den Unsloth-Zugriff am ersten Tag. [**Muse-Spark-Open-816B-A42B-GGUF**](https://huggingface.co/unsloth/Muse-Spark-Open-816B-A42B-GGUF)

### Nutzungsleitfaden

Muse Spark Open ist ein nativ multimodales Reasoning-Modell mit Tool-Nutzung und Reasoning zur Testzeit. Muse Spark Open wurde außerdem auf langhorizontige Coding-Aufgaben trainiert, einschließlich der Generierung kompletter Repositories, großer End-to-End-Projekte und automatisierter Recherche.

Die **2-Bit** `UD-IQ2_XXS` Quantisierung passt auf 256 GB RAM und 8-Bit benötigt 900 GB RAM.

#### Hardwareanforderungen

Muse Spark Open benötigt ungefähr **1,63 TB für BF16-Gewichte des Sprachmodells in voller Präzision** vor Laufzeit-Overhead. Unsloths dynamische Quantisierung unterstützt MoE-Architekturen und verwendet modellspezifische Quantisierungsschemata, um die Genauigkeit zu erhalten und gleichzeitig den Speicherbedarf zu reduzieren.

**Tabelle: Hardwareanforderungen für Muse Spark Open** (Einheiten = Gesamtspeicher: RAM + VRAM oder Unified Memory).

| 1-Bit      | 2-Bit      | 3-Bit      | 4-Bit  | 6-Bit  | 8-Bit      |
| ---------- | ---------- | ---------- | ------ | ------ | ---------- |
| 180-212 GB | 250-316 GB | 346-410 GB | 512 GB | 640 GB | 870-950 GB |

{% hint style="info" %}
Als Faustregel sollte Ihr verfügbarer Gesamtspeicher mindestens größer sein als die Größe des quantisierten Modells, das Sie herunterladen. llama.cpp kann teilweise RAM-/Festplatten-Auslagerung nutzen, wenn dies nicht der Fall ist, aber die Generierung wird langsamer sein. Höhere Kontextlängen erfordern ebenfalls zusätzlichen Speicher.
{% endhint %}

#### Empfohlene Einstellungen <a href="#thinking-settings" id="thinking-settings"></a>

Muse Spark Open ist ein Reasoning-Modell und unterstützt niedrige, mittlere, hohe und xhigh-Reasoning-Aufwände.

Empfohlene Inferenzparameter für Muse Spark Open:

* `temperature = 1.0`
* `top_p = 1.0`
* `top_k = 0 oder deaktiviert`

**Maximale Kontextlänge**: `1,048,576`

## Muse-Spark-Open-Tutorials ausführen

Da quantisiert **Muse-Spark-Open-816B-A42B** in mehreren Größen erhältlich ist, ist der empfohlene Ausgangspunkt für die Modelle [**Dynamisch**](/docs/de/grundlagen/dynamic-3.0-ggufs.md) &#x32;**-Bit**. Muse-Spark-Open-816B-A42B[ GGUFs](https://huggingface.co/unsloth/Muse-Spark-Open-816B-A42B-GGUF).

<a href="/docs/de/modelle/muse-glimmer.md#unsloth-guide" class="button primary">🦥 Unsloth-Leitfaden</a><a href="/pages/905dffb7435b8aae6f540021fb352ca634402d1c#llama.cpp-guide" class="button primary">🦙 Llama.cpp-Leitfaden</a>

### 🦥 Unsloth-Leitfaden

Muse Spark Open kann jetzt in Unsloth Desktop, unserer neuen Open-Source-Desktop-App für lokale KI, ausgeführt und feinabgestimmt werden. Unsloth ermöglicht es Ihnen, Modelle lokal auf **MacOS, Windows**, Linux und:

* Suchen, herunterladen, [GGUFs ausführen](/docs/de/neu/studio.md#run-models-locally) und Safetensor-Modelle
* [**Selbstheilung** Tool-Aufrufe](/docs/de/neu/studio.md#execute-code--heal-tool-calling) + **Websuche**
* [**Codeausführung**](/docs/de/neu/studio.md#run-models-locally) (Python, Bash)
* [Automatische Inferenz](https://unsloth.ai/docs/desktop#feature-deep-dive) Parametertuning (Temp, Top-p usw.)
* Schnelle CPU- + GPU-Inferenz über llama.cpp
* [LLMs trainieren](/docs/de/neu/studio.md#no-code-training) 2× schneller mit 70 % weniger VRAM

{% stepper %}
{% step %}

#### **Unsloth einrichten**

Am einfachsten kommen Sie mit der [Unsloth-Desktop-App](/docs/de/desktop.md).

<a href="https://unsloth.ai/download" class="button primary" data-icon="down-to-bracket">Unsloth herunterladen</a>

* <i class="fa-apple">:apple:</i> [Für macOS herunterladen](https://unsloth.ai/download/mac)
* <i class="fa-windows">:windows:</i> [Für Windows herunterladen](https://unsloth.ai/download/windows)
* <i class="fa-linux">:linux:</i> [Für Linux herunterladen](https://unsloth.ai/download/linux)

Sie können auch manuell installieren:

{% tabs %}
{% tab title="Native-Installation" %}
**MacOS, Linux, WSL:**

```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

**Windows:**

```powershell
irm https://unsloth.ai/install.ps1 | iex
```

{% endtab %}

{% tab title="Docker" %}
Das [Unsloth-Docker-Image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` ist auf Docker verfügbar. [Anleitung lesen.](https://unsloth.ai/docs/get-started/install/docker)
{% endtab %}

{% tab title="Homebrew" %}
Unsloth Desktop installieren:

{% code collapsedlinecount="10" %}

```bash
brew install --cask unsloth
```

{% endcode %}

Unsloth Desktop aktualisieren:

```bash
brew upgrade --cask unsloth
```

{% endtab %}

{% tab title="WinGet" %}
Unsloth Desktop installieren:

```powershell
winget install --id UnslothAI.Unsloth -e
```

Unsloth Desktop aktualisieren:

```powershell
winget upgrade --id UnslothAI.Unsloth -e
```

{% endtab %}
{% endtabs %}
{% endstep %}

{% step %}

#### Unsloth starten und Muse Spark Open suchen und herunterladen

Gehen Sie beim ersten Start zum Tab „Model Hub“, suchen Sie in der Suchleiste nach Muse Spark Open und laden Sie das gewünschte Modell und die gewünschte Quantisierung herunter.
{% endstep %}

{% step %}

#### Muse Spark Open ausführen

Die Inferenzparameter sollten in Unsloth Desktop automatisch gesetzt werden; Sie können sie jedoch weiterhin manuell ändern. Sie können auch die Kontextlänge, die Chat-Vorlage und andere Einstellungen bearbeiten. Sie können GGUFs, Safetensors und MLX-Dateien ausführen.

Für weitere Informationen können Sie unseren [Unsloth-Inferenzleitfaden](/docs/de/neu/studio/chat.md).

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2F2pHPTTp37UsjRmbCAzfM%2Fimage.png?alt=media&amp;token=f0840bf7-e08b-4b73-bdec-24caae22a29d" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}

#### Muse Spark Open mit der Unsloth-API bereitstellen

Sie können `unsloth run` Befehl verwenden und Muse Spark Open über eine API bereitstellen mit `llama-server` Laufzeit-Flags, einschließlich Kontextgröße, GPU-Ebenen, Threading, Sampling, Netzwerk und Tool-Konfiguration. Weitere Infos finden Sie in unseren [API-Dokumentation](/docs/de/grundlagen/api.md) oder [unsloth start](/docs/de/integrationen/unsloth-start.md).

```bash
unsloth run --model unsloth/Muse-Spark-Open-816B-A42B-GGUF:UD-IQ2_XXS
```

{% endstep %}

{% step %}

#### Unsloth ist jetzt bereit

Sie können mit Muse Spark Open über Unsloth Desktop auch viele andere Dinge tun, wie zum Beispiel:

* **Tools verbinden:** [Claude Code](/docs/de/grundlagen/claude-code.md), [Codex](/docs/de/grundlagen/codex.md), [Websuche](/docs/de/neu/studio/chat.md#advanced-web-search), [MCP](/docs/de/grundlagen/mcp.md) und mehr
* **Modelle trainieren:** Text, Diffusion, [Embeddings](/docs/de/grundlagen/embedding-finetuning.md)und mehr feinabstimmen
* **Medien generieren:** Erstellen und trainieren [von Bildern](/docs/de/grundlagen/diffusion-image.md), Video, [TTS](/docs/de/grundlagen/text-to-speech-tts-fine-tuning.md) lokal
  {% endstep %}
  {% endstepper %}

### KLD-Benchmarks

Wir haben KLD-Benchmarks für Muse Spark Open GGUFs für allgemeine Aufgaben und auch Chat-Aufgaben ausgeführt. Unsere UD-3-Quants für Muse zeigen bei UD-Q4\_K\_XL ein sehr kleines KLD (je niedriger, desto besser). Q3\_K\_XL ist ebenfalls recht vernünftig.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwQAj1r2xtQU78NJLxAce%2Fmuse_spark_open_816b_kld_vs_disk.png?alt=media&amp;token=2a97b134-0deb-414b-b855-56d25a7fd1d6" alt=""><figcaption></figcaption></figure>

Für eine Top-1-%-Genauigkeit haben wir es ebenfalls bei allgemeinen Aufgaben und Chat-Aufgaben getestet – Quants unter UD-IQ2\_S verschlechtern sich bei allgemeinen Aufgaben, daher empfehlen wir im Allgemeinen, UD-IQ2\_S als minimale Quantisierung für agentische Aufgaben zu verwenden. Aufgaben im Chat-Stil funktionieren mit den kleinsten Quants gut.

<figure><img src="https://797013937-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FxhOjnexMCB3dmuQFQ2Zq%2Fuploads%2FwcFg5X5xzxrMiTzzzZIA%2Fmuse_spark_open_816b_top1_vs_disk.png?alt=media&amp;token=3125af4a-4ecd-47eb-8a00-12960c1239b4" alt=""><figcaption></figcaption></figure>

### 🦙 Llama.cpp-Leitfaden

Für diesen Leitfaden verwenden wir Dynamic 2-Bit für Muse-Spark-Open-816B-A42B. Siehe: [Muse-Spark-Open-816B-A42B GGUF](https://huggingface.co/unsloth/Muse-Spark-Open-816B-A42B-GGUF)

{% stepper %}
{% step %}
Installieren Sie die spezifische Version von llama.cpp. Sie können auch den untenstehenden Build-Anweisungen folgen. Ändern Sie `-DGGML_CUDA=ON` zu `-DGGML_CUDA=OFF` wenn Sie keine GPU haben oder einfach nur CPU-Inferenz möchten. **Für Apple-Mac-/Metal-Geräte**, setzen Sie `-DGGML_CUDA=OFF` dann fahren Sie wie gewohnt fort – Metal-Unterstützung ist standardmäßig aktiviert.\
\
Hinweis <https://github.com/ggml-org/llama.cpp/pull/30616> muss zusammengeführt werden, damit das Bauen aus dem Hauptzweig funktioniert – andernfalls nutzen Sie unsere vorgefertigten Builds unter <https://github.com/unslothai/llama.cpp>

```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build \\
    -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```

{% endstep %}

{% step %}
Um das Modell auszuführen, können Sie Folgendes tun:

{% code overflow="wrap" %}

```bash
pip install -U "huggingface_hub[cli]"
hf download unsloth/Muse-Spark-Open-816B-A42B-GGUF \\
    --local-dir unsloth/Muse-Spark-Open-816B-A42B-GGUF \\
    --include "*UD-IQ2_XXS*" # Verwenden Sie "*IQ2_XXS*" für 2-Bit
```

{% endcode %}
{% endstep %}

{% step %}
Dann führen Sie es aus:

{% code overflow="wrap" %}

```bash
./llama.cpp/llama-cli \\
    --model unsloth/Muse-Spark-Open-816B-A42B-GGUF/UD-IQ2_XXS/Muse-Spark-Open-816B-A42B-UD-IQ2_XXS-00001-of-00006.gguf \\
    --temp 1.0 \\
    --top-p 1.0 \\
    --top-k 64
```

{% endcode %}
{% endstep %}
{% endstepper %}

### Offizielle Benchmarks

Meta vergleicht Muse Spark Open mit anderen führenden Open-Weight-Modellen ähnlicher Größe und Architektur. Für Muse Spark Open ist xhigh-Reasoning über Benchmarks hinweg mit temperature = 1.0, top\_p=1.0, top\_k=disabled aktiviert.

<table><thead><tr><th width="177.9913330078125" align="center">Benchmark</th><th>Muse Spark Open (xhigh)</th><th>Inkling (xhigh)</th><th>Nemotron 3 Ultra (think)</th><th>Beam</th><th>Mistral Large 4</th><th>Qwen3.8-2.4T-A95B (xhigh)</th><th>GLM 5.3 (max)</th><th>Kimi K3 (max)</th></tr></thead><tbody><tr><td align="center"><strong>Allgemein</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>Agentisch</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>JobBench</strong></td><td><strong>61.8</strong></td><td>31.1</td><td>27.2</td><td>-</td><td>-</td><td>52.7</td><td>61.4</td><td>54.3</td></tr><tr><td align="center"><strong>MCP-Atlas</strong></td><td><strong>89.2</strong></td><td>76.0</td><td>63.1</td><td>78.7</td><td>-</td><td>84.5</td><td>84.2</td><td>82.3</td></tr><tr><td align="center"><strong>GDPVal-AA v2</strong></td><td>1401</td><td>1079</td><td>1016</td><td>-</td><td>1424</td><td>1613</td><td><strong>1653</strong></td><td>1537</td></tr><tr><td align="center"><strong>Artificial Analysis Intelligence Index</strong></td><td>39</td><td>26</td><td>23</td><td>-</td><td>38</td><td>40</td><td><strong>45</strong></td><td>44</td></tr><tr><td align="center"><strong>OSWorld Verified</strong></td><td>80.4</td><td>40.1</td><td>-</td><td><strong>-</strong></td><td>-</td><td>-</td><td>-</td><td><strong>84.8</strong></td></tr><tr><td align="center"><strong>Toolathlon Verified</strong></td><td>72.8</td><td>45.5</td><td>34.3</td><td><strong>-</strong></td><td>-</td><td>72.5</td><td>73.0</td><td><strong>76.5</strong></td></tr><tr><td align="center"><strong>Wissen &#x26; Schlussfolgerung</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>HLE-Diamond (ohne Tools)</strong></td><td><strong>26.1</strong></td><td>11.2</td><td>8.9</td><td>-</td><td>-</td><td>17.3</td><td>16.4</td><td>22.2</td></tr><tr><td align="center"><strong>AA Omniscience</strong></td><td><strong>25</strong></td><td>2</td><td>0</td><td>13</td><td>-5</td><td>4</td><td>14</td><td>20</td></tr><tr><td align="center"><strong>SciCode</strong></td><td>58.5</td><td>47.0</td><td>40.3</td><td>49.7</td><td>54.2</td><td>54.1</td><td>59.0</td><td><strong>59.5</strong></td></tr><tr><td align="center"><strong>HLE (mit Tools)</strong></td><td>61.0</td><td>46.0</td><td>37.4</td><td>51.2</td><td>-</td><td>56.2</td><td><strong>62.5</strong></td><td>56.0</td></tr><tr><td align="center"><strong>GPQA Diamond</strong></td><td>89.0</td><td>87.2</td><td>86.7</td><td>90.5</td><td>-</td><td><strong>93.5</strong></td><td>91.7</td><td><strong>93.5</strong></td></tr><tr><td align="center"><strong>Programmierung</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>DeepSWE 1.1</strong> Bevorzugter Harness</td><td>60</td><td>-</td><td>-</td><td>44</td><td>62</td><td>57</td><td>67</td><td><strong>68</strong></td></tr><tr><td align="center"><strong>SWE-Atlas-QnA</strong> Bevorzugter Harness</td><td>58</td><td>-</td><td>-</td><td>35</td><td>59</td><td>62</td><td>59</td><td><strong>66</strong></td></tr><tr><td align="center"><strong>Terminal-Bench 2.1</strong> Terminus-2-Agent</td><td>76.4</td><td>55.1</td><td>53.9</td><td>80.1</td><td>-</td><td>82.0</td><td>83.9</td><td><strong>85.0</strong></td></tr><tr><td align="center"><strong>Multimodal</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>ZeroBench (mit Tools)</strong></td><td><strong>50.0</strong></td><td>14.0</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td>41.0</td></tr><tr><td align="center"><strong>BabyVision (mit Tools)</strong></td><td>80.2</td><td>34.2</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td><strong>85.7</strong></td></tr><tr><td align="center"><strong>SimpleVQA (mit Tools)</strong></td><td><strong>73.6</strong></td><td>52.3</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td>71.9</td></tr><tr><td align="center"><strong>WorldVQA (mit Tools)</strong></td><td>49.4</td><td>18.0</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td><strong>51.0</strong></td></tr><tr><td align="center"><strong>IntPhys2</strong></td><td><strong>68.3</strong></td><td>55.2</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td>60.3</td></tr><tr><td align="center"><strong>VideoMMEv2</strong></td><td>61.5</td><td>36.9</td><td>-</td><td>-</td><td>-</td><td>-</td><td>-</td><td><strong>65.4</strong></td></tr><tr><td align="center"><strong>Sicherheit</strong></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td align="center"><strong>FORTRESS adversarial (statisch)</strong> niedriger ist besser</td><td>ARS: 5.8 ORS: 17.4</td><td>ARS: 25.0 ORS: 7.4</td><td>ARS: 26.4 ORS: 13.3</td><td>-</td><td>-</td><td>ARS: 21.6 ORS: 12.8</td><td>ARS: 28.2 ORS: 3.2</td><td>ARS: 26.7 ORS: 2.7</td></tr><tr><td align="center"><strong>StrongREJECT v2 (adaptiv)</strong> niedriger ist besser</td><td><strong>0.5</strong></td><td>86.4</td><td>80.7</td><td>-</td><td>-</td><td>65.6</td><td>62.9</td><td>66.6</td></tr></tbody></table>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/de/modelle/muse-spark-open.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.