APIプロバイダーとモデルサーバーをUnslothに接続

OpenAI、Anthropic、Ollama、llama.cpp、vLLM、その他のプロバイダーのモデルを、単一のローカルUIインターフェースから実行する方法を学びましょう。 Unslothは、LLMの実行と学習のためのオープンソースリポジトリです。ChatGPT/CodexのサブスクリプションをUnslothに直接接続することもできます。

モデルがUnslothの推論機能経由で実行されていても、独自のリモートOpenAI互換エンドポイントで実行されていても、Web検索、コード実行、ディープリサーチなどを含むUnslothの完全なツール群にアクセスさせることができます。

接続

接続は2つのグループに分かれます。モデルを代わりに実行するホスト済みAPIプロバイダーと、あなたが実行または管理するモデルサーバーです。

クラウドプロバイダー - アカウントのAPIキーを使用するホスト済みAPI:

モデルサーバー - ローカル、ネットワーク上、またはリモートマシン上で実行される推論サーバー:

クイックスタート

外部プロバイダーのモデルを実行するには、APIキーを追加し、Unslothに表示させるモデルを選択します。この例では、 OpenAIを使います。Anthropicや他のプロバイダーでも同じ手順で設定できます。

1

Unslothをセットアップ

始める最も簡単な方法は、 Unsloth Desktop アプリをインストールすることです。対応環境は MacOS、Linux、 Windows, NVIDIA, AMD、Intel、およびCPU構成です。

Unslothをダウンロード

• macOS用をダウンロード

• Windows用をダウンロード

• Linux用をダウンロード

または、手動インストールを希望する場合は:

MacOS、Linux、WSL:

コピー

curl -fsSL https://unsloth.ai/install.sh | sh

Windows PowerShell:

コピー

irm https://unsloth.ai/install.ps1 | iex

こちらを参照 して、より詳しい手順を確認してください

2

APIを作成

プロバイダーのダッシュボードから新しいAPIキーを作成して、コピーします。

3

Unslothをセットアップ

次に、 Unslothをインストールしてセットアップする必要があります。これにより、UIインターフェースでクラウドモデルを実行できるようになります。 こちらを参照 して、より詳しい手順を確認してください。

4

接続を構成

次に、プロバイダーをUnslothに接続します。

1. 開く 設定 → 接続を開いてから、 接続を追加

2. をクリックします。追加したいプロバイダーを選択し、先ほどコピーしたAPIキーを貼り付けます。

3. クリック モデルを再読み込み して、アカウントで利用可能なモデル一覧を更新します。

4. 有効にしたいモデルを選んで、保存を押します。

5

チャット準備完了

有効にしたモデルは、 接続済み の モデルを選択 ドロップダウンに表示されます。

Unslothは、モデルごとに互換性のある推論レベルと生成制御を動的に公開します。

モデルサーバーに接続

このフローを使用するのは llama.cpp, vLLM、および Ollamaです。接続したいサーバーを起動するか、場所を確認してください。

これでモデルサーバーに接続できます。 設定 → 接続を開いてから、 プロバイダーを追加.

llama.cpp、vLLM、またはOllamaを選択してから、サーバーの ベースURL.

• llama.cppの例: http://localhost:8080/v1

• Ollamaの例: http://localhost:11434/v1

クリック モデルを読み込む をクリックして利用可能なモデルIDを取得するか、サーバーが /models.

を公開していない場合は、モデルIDを手動で入力します。 その後、 有効にしたモデルは、 プロバイダーを追加 の モデルを選択 ドロップダウンに表示されます。

外部

コード実行 有効にすると、対応するOpenAIおよびAnthropicのモデルは、プロバイダーのサンドボックス内でコードを実行し、問題の解決、データ分析、ファイル操作ができます。 Anthropicのモデルは、Claudeのプロバイダー側コード実行ツールを使用します。OpenAIは再利用可能なコンテナを使用し、作成、削除、 外部 設定から選択できます。新しいスレッドで同じコンテナを選択すると、そのファイルと状態を引き継いで続行できます。

プロンプトキャッシュ

プロンプトキャッシュは、同じ長いプレフィックスをリクエストで再利用する際の遅延とコストを削減します。OpenAI、Anthropic、llama.cppを含む、互換性のあるプロバイダーとサーバーでサポートされています。サイドパネルの プロンプトキャッシュ 設定を使って、対応する接続のキャッシュ動作を制御します。

llama.cppでは、プロンプトキャッシュはデフォルトで有効になっており、起動時に無効化できます llama-server 以下を使って:

Web検索と推論

プロバイダー側のWeb検索は、OpenAI、Anthropic、OpenRouter、Mistral、Gemini、Kimiの対応モデルで利用できます。Think制御は選択したモデルに応じて動作を変えます。オン/オフ切り替えを使うモデルもあれば、推論努力モデルではモデル固有の思考レベルを使うものもあります。

画像生成

GPTやGeminiと同様に、Unslothも画像生成をサポートしています。「画像を編集」ボタンをクリックして新しいプロンプトを入力すれば、画像を直接編集して、改善または再生成できます。画像は要求時に自動生成されますが、この動作はオフに切り替えることもできます。ダウンロードボタンもあり、元のフル解像度で画像を保存できます。

トラブルシューティング

プロバイダーへの接続に失敗した場合は、APIキーが選択したプロバイダーのものか、そして選択したモデルへのアクセス権があるかを確認してください。

をクリックした後にモデルが表示されない場合は モデルを再読み込み、そのモデルがアカウントで利用できない可能性があります。Unslothのデフォルトモデル一覧を使うか、別のモデルを選ぶことができます。