👾Wie man die LM-Studio-CLI im Linux-Terminal installiert

Installationsanleitung für LM Studio CLI ohne UI in einer Terminal-Instanz.

1. Öffnen Sie ein neues Terminal, um die LM Studio CLI auszuführen, oder verwenden Sie tmux

2. Hol dir LM Studio oder führen Sie unten aus (Downloadgröße etwa 1 GB)

wget https://lmstudio.ai/download/latest/linux/x64?format=AppImage -O 'LM_Studio.AppImage'
chmod u+x ./LM_Studio.AppImage

1. Starten Sie LM Studio über

./LM_Studio.AppImage

Sie könnten Folgendes sehen:

[802435:0215/073628.027773:FATAL:sandbox/linux/suid/client/setuid_sandbox_host.cc:166] The SUID sandbox helper binary was found, but is not configured correctly. Rather than run without sandboxing I'm aborting now.

Falls ja, machen Sie stattdessen Folgendes:

./LM_Studio.AppImage --no-sandbox

1. Sie könnten dann Folgendes sehen, besonders wenn Sie sich in einer Cloud-Instanz ohne Desktop befinden:

[807101:0215/073740.801969:ERROR:ui/ozone/platform/x11/ozone_platform_x11.cc:249] Missing X server or $DISPLAY
[807101:0215/073740.802000:ERROR:ui/aura/env.cc:257] The platform failed to initialize.  Exiting.
Segmentation fault (core dumped)

Falls ja, installieren Sie einen "Fake"-Desktop-Simulator im Terminal:

sudo apt-get install xvfb

1. Verwenden Sie dann xvfb und starten Sie LM Studio:

xvfb-run --auto-servernum ./LM_Studio.AppImage --no-sandbox

1. Holen Sie sich dann LM Studios LMS / CLI in einem anderen Terminal, oder nach CTRL+B+D für tmux

~/.lmstudio/bin/lms bootstrap

1. Öffnen Sie ein neues Terminal oder tmux führen Sie dann aus:

lms

Wenn Sie sehen -bash: lms: command not found führen Sie bitte aus lms in einem neuen Terminalfenster!

1. Laden Sie nun ein Modell wie Qwen3-Coder-Next wie unten. Wenn Downloads hängen bleiben, siehe Hugging Face Hub, XET-Debugging

pip install -U huggingface_hub
hf download unsloth/Qwen3-Coder-Next-GGUF \
    --local-dir unsloth/Qwen3-Coder-Next-GGUF \
    --include "*UD-Q4_K_XL*"

1. Wir importieren das Modell dann über:

lms import \
    unsloth/Qwen3-Coder-Next-GGUF/Qwen3-Coder-Next-UD-Q4_K_XL.gguf \
    --symbolic-link --user-repo "unsloth/Qwen3-Coder-Next-GGUF" -y

Sie könnten sehen EEXIST: file already exists, symlink 'unsloth/Qwen3-Coder-Next-GGUF/UD-Q6_K_XL/Qwen3-Coder-Next-UD-Q6_K_XL-00001-of-00003.gguf' -> '~/.lmstudio/models/unsloth/Qwen3-Coder-Next-GGUF/Qwen3-Coder-Next-UD-Q6_K_XL-00001-of-00003.gguf' was nur bedeutet, dass Sie das Modell bereits in LM Studio geladen haben.

Sie können auch alle LM Studio-Modelle prüfen über:

ls ~/.lmstudio/models

1. Sie können Modelle auch erhalten via lms get über Folgendes:

lms get https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF@Q4_K_XL

Sie werden dann sehen:

Finalizing download...
Download abgeschlossen. Sie können das Modell laden mit: 
lms load qwen3-coder-next

Dann laden lms load qwen3-coder-next:

1. Starten Sie dann den Server von LM Studio:

lms server start --port 8001 --bind 127.0.0.1

Sie werden sehen Erfolg! Server läuft jetzt auf Port 8001

1. Dann verwenden Sie in einem neuen Terminal das Modell über den OpenAI-kompatiblen Endpunkt:

from openai import OpenAI
import json
openai_client = OpenAI(
    base_url = "http://127.0.0.1:8001/v1",
    api_key = "null",
)
model_name = next(iter(openai_client.models.list())).id
print(model_name)
completion = openai_client.chat.completions.create(
    model = model_name,
    messages = [{"role": "user", "content": "What is 2+2?"},],
)
print(completion.choices[0].message.content)

Und fertig!