👾如何在 Linux 终端中安装 LM Studio CLI

在终端实例中无 UI 安装 LM Studio CLI 的指南。

1. 打开一个新终端以运行 LM Studio CLI，或使用 tmux

2. 获取 LM Studio 或运行下面命令（约 1GB 下载大小）

wget https://lmstudio.ai/download/latest/linux/x64?format=AppImage -O 'LM_Studio.AppImage'
chmod u+x ./LM_Studio.AppImage

1. 通过以下方式运行 LM Studio

./LM_Studio.AppImage

你可能会看到如下信息：

[802435:0215/073628.027773:FATAL:sandbox/linux/suid/client/setuid_sandbox_host.cc:166] 找到 SUID 沙箱辅助二进制文件，但未正确配置。与其在没有沙箱的情况下运行，我现在终止。

如果是这样，请改为执行下面操作：

./LM_Studio.AppImage --no-sandbox

1. 然后你可能会看到下面这些，尤其是在没有桌面的云实例中：

[807101:0215/073740.801969:ERROR:ui/ozone/platform/x11/ozone_platform_x11.cc:249] 缺少 X 服务器或 $DISPLAY
[807101:0215/073740.802000:ERROR:ui/aura/env.cc:257] 平台初始化失败。正在退出。
段错误（已生成核心转储）

如果是这样，请在终端内安装一个“假”桌面模拟器：

sudo apt-get install xvfb

1. 然后使用 xvfb 并启动 LM Studio：

xvfb-run --auto-servernum ./LM_Studio.AppImage --no-sandbox

1. 然后在另一个终端获取 LM Studio 的 LMS / CLI，或在按 CTRL+B+D 后执行 tmux

~/.lmstudio/bin/lms bootstrap

1. 打开一个新终端或 tmux 然后运行：

lms

如果你看到 -bash: lms: command not found 请运行 lms 在新的终端窗口中！

1. 现在下载一个模型，例如 Qwen3-Coder-Next 如下。如果下载卡住，请参见 Hugging Face Hub、XET 调试

pip install -U huggingface_hub
hf download unsloth/Qwen3-Coder-Next-GGUF \
    --local-dir unsloth/Qwen3-Coder-Next-GGUF \
    --include "*UD-Q4_K_XL*"

1. 然后我们通过以下命令导入模型：

lms import \
    unsloth/Qwen3-Coder-Next-GGUF/Qwen3-Coder-Next-UD-Q4_K_XL.gguf \
    --symbolic-link --user-repo "unsloth/Qwen3-Coder-Next-GGUF" -y

你可能会看到 EEXIST: 文件已存在，符号链接 'unsloth/Qwen3-Coder-Next-GGUF/UD-Q6_K_XL/Qwen3-Coder-Next-UD-Q6_K_XL-00001-of-00003.gguf' -> '~/.lmstudio/models/unsloth/Qwen3-Coder-Next-GGUF/Qwen3-Coder-Next-UD-Q6_K_XL-00001-of-00003.gguf' 这只是表示你已经在 LM Studio 中加载了该模型。

你也可以通过以下命令检查所有 LM Studio 模型：

ls ~/.lmstudio/models

1. 你也可以通过以下方式获取模型 lms get 通过下面：

lms get https://huggingface.co/unsloth/Qwen3-Coder-Next-GGUF@Q4_K_XL

然后你会看到：

正在完成下载...
下载完成。你可以使用以下命令加载模型： 
lms load qwen3-coder-next

然后加载 lms load qwen3-coder-next:

1. 然后启动 LM Studio 的服务器：

lms server start --port 8001 --bind 127.0.0.1

你会看到 成功！服务器现在在端口 8001 上运行

1. 然后在一个新终端中，通过兼容 OpenAI 的端点使用该模型：

from openai import OpenAI
import json
openai_client = OpenAI(
    base_url = "http://127.0.0.1:8001/v1",
    api_key = "null",
)
model_name = next(iter(openai_client.models.list())).id
print(model_name)
completion = openai_client.chat.completions.create(
    model = model_name,
    messages = [{"role": "user", "content": "What is 2+2?"},],
)
print(completion.choices[0].message.content)

就这样完成了！