UnslothでAMD GPU上のモデルを学習・実行する
Unsloth はついに AMD ハードウェアを公式サポートし、AMD GPU 上でモデルのローカル実行、学習、ファインチューニング、RL、デプロイを簡単にします。完全オープンソース、 Unsloth Studio は Windows、WSL、Linux 全体で動作し、AMD の Radeon RX 9000、7000 シリーズ、Instinct MI350 および MI300 データセンター向け GPU、Vulkan、Strix Halo 搭載 Ryzen AI Max システムなどをサポートします。
私たちは AMD およびコミュニティと協力し、精度を損なうことなく、すべてのモデルで最大 2 倍高速、VRAM 70% 削減の学習を実現しました。GPU がなくても、Unsloth は引き続きネイティブ AMD 推論をサポートしています。 Qwen3.6, Gemma 4、DeepSeek-V4、GLM 5.2、DiffusionGemma、Kimi K2.7、その他のモデル。
7月23日更新: 追加 RDNA2、Gorgon Halo、Vulkan サポート + AMD GPU で GPU を検出できない問題を修正。 RDNA4、HIP / ROCm の失敗時の自動修復と検出を改善。
AMD に Unsloth Studio をインストールするには、次を実行します:
MacOS、Linux、WSL:
Windows Powershell:
irm https://unsloth.ai/install.ps1 | iex 
⭐ 機能
Unsloth は AMD 向けに推論と学習の両方をサポートしているため、GPU がなく CPU しかなくても、Unsloth でモデルを実行できます。Unsloth を使うと、次のものが得られます:
ツール呼び出しの修復 推論時に精度を 50% 向上、無制限の無料 ウェブ検索、HTML キャンバス、 安全な HTTPS デプロイ Cloudflare 経由で コード実行 すべて動作します。
8GB VRAM で Gemma 4 モデルを学習 または 3GB VRAM で Qwen3.5 を実行できます。Triton カーネル、数学アルゴリズム、メモリの工夫により、AMD で精度を損なうことなく VRAM 使用量を 70% 削減できます。
最大 VRAM 使用量を 80% 削減 強化学習 、たとえば GRPO など。さらに vLLM との重み共有によりメモリ使用量を 50% 削減します。
最適化されたサポート RDNA 3 以降の GPU とデータセンター向け GPU。Strix Halo も Linux、WSL、Windows 向けに最適化されています。
接続 ローカルモデルを任意のエージェントハーネスに: Claude Code, Codex, Hermes, OpenClaw など。
推論と学習をほぼ すべてのモデルでサポートし、最新の DeepSeek-V4, GLM-5.2, Kimi-K2.7, MiniMax M3, DiffusionGemma, Inkling などを含みます！
AMD のマルチ GPU サポート + VRAM/RAM 追跡。
llama.cppROCm のビルド済みバイナリは毎日提供されるため、常に最新のモデル更新を利用できます！
⚡ クイックスタート
Unsloth は PyTorch 用の最適な ROCm ビルド、llama.cpp のビルド済みバイナリ、bitsandbytes、ROCm 最適化カーネル、Triton を自動インストールします。AMD 向けの最適化と修正もまとめて提供しています。より 詳細なガイドはこちら をご覧ください。
Windows と WSL のユーザー向けに Unsloth のインストールをシームレスにしましたが、一般的には最も幅広くサポートされる Linux を直接使うことを推奨します。Unsloth は MacOS、Linux、 Windows, NVIDIA、Intel、CPU 構成をサポートしています。以下をご覧ください: Unslothの要件。更新も同じコマンドです！
MacOS、Linux、WSL:
Windows PowerShell:
Unsloth は ROCm、PyTorch、カスタム llama.cpp のビルド済みバイナリなどを自動インストールします！
Unsloth をリモートで利用する
また Cloudflare HTTPS トンネリング を無料で有効化したので、リモートから HTTPS 経由で安全に Unsloth にアクセスできます。
📥 Unsloth ノートブックのインストールと pip install
プレーンな Unsloth ノートブックが欲しい場合は、一般的な AMD インストールガイドをご覧ください。AMD インストールガイドを必ず読んでください！PyTorch と ROCm のインストールに従ったら、次を実行します:
⏯️Unsloth Start
Unsloth Start を使うと Claude Code, Codex や他のエージェントを unsloth start コマンド経由でローカルモデルに接続できます。
Unsloth を起動し、プロジェクトフォルダを開いて、次を実行します:
置き換える claude を以下の任意のエージェントに変更してください:
Claude Code
unsloth start claude
OpenAI Codex
unsloth start codex
Hermes Agent
unsloth start hermes
OpenClaw
unsloth start openclaw
OpenCode
unsloth start opencode
📊 AMD 分析
私たちは、AMD 以外の GPU 向けに行った多くの最適化を移植し、AMD GPU を最大限に活かせるようにしました！AMD の学習を Windows デバイスで動作させ、ほぼすべての AMD デバイスで互換性を確保するのには多くの作業が必要でしたが、現在の状態には満足しています。AMD GPU をさらに良くするために、まだ積極的に取り組んでいます！以下は AMD MI300X で実施した分析/ベンチマークです。
強化学習: より正確な LoRA と QLoRA
AMD での RL 中、Unsloth は 重み共有 をサポートします。これは メモリ効率の高いRLで導入された vLLM の メモリ使用量を半減 するために、モデルの vLLM による割り当てを直接参照します。
LoRA と QLoRA の間では、下記のような LoRA 重みのマージとデマージも行いません:
上記は問題を引き起こします。なぜなら IEEE 浮動小数点は丸めのため可換ではないからです。W が BF16 の場合、他の RL エンジンで行うような減算時に微妙な差異が生じます。つまり IEEE の世界では:
また W が仮数ビットの少ない bfloat16 の場合、 小さい数値を 0 に丸めます。LoRA 中は A と B が float32 であるため、マージとデマージの後に W が時間とともにずれる可能性があります。Unsloth は vLLM の LoRA パスを直接使用するため、これを回避できます。ベース重みは決して編集されず、ずれることもありません。
より高速な強化学習
FA2 と vLLM を同一配置した他の構成もベンチマークしました。どちらも生成に vLLM を使用しますが、Unsloth は学習と生成のバランスをより生成側に寄せることで、約 2 倍高速にしています。
3 つのベンチマークはいずれも再現可能です。同じシード、同じトークン予算で、 損失曲線も 2 つのスタック間で一致します。
より高速でメモリ効率の高い学習
Llama-3.1-8B の LoRA SFT（batch 2 x grad-accum 4 x 2048 = 16,384 tokens/step, packed）では、Unsloth は TRL + FA2 の 2.87 秒/step に対して 2.07 秒/step で学習し、ピークは 24.3 GB に対して 18.3 GB です。つまり 1.39 倍高速で、メモリ使用量は 1.33 倍少なく、精度の変化はありません。さらに良くする予定です！
メモリ削減はピーク値が低いだけではなく、実行全体を通して維持されます。 0.1 秒ごとに割り当て VRAM をサンプリングすると、Unsloth は全期間を通じて低く安定したままですが、 他の構成 + FA2 はほぼすべてのステップで 22.8 GB 付近までスパイクし、完了までより長くかかります（同じ 25 ステップで 75 秒対 56 秒）。
✨サポートされる AMD ハードウェア
Unsloth の AMD サポートは、一般的なコンシューマー、ワークステーション、データセンター向け GPU に焦点を当てています。学習、Unsloth Studio、GGUF/llama.cpp 推論のサポートはアーキテクチャによって異なるため、以下の表では最適化済みサポートと互換性パスを分けています。
RDNA 4
Radeon™ RX 9000 Series
gfx1200, gfx1201
完全
Windows + WSL + Linux
RDNA 3.5
Ryzen AI 300 / Ryzen AI MAX (Strix Halo)
gfx1150, gfx1151, gfx1152
完全
Windows + WSL + Linux
RDNA 3
Radeon™ RX 7000 Series
gfx1100, gfx1101, gfx1102
完全
Windows + WSL + Linux
RDNA 2
Radeon™ RX 6000 Series
gfx1030 のみ
ほぼ
Windows + WSL + Linux
CDNA 4
Instinct™ MI350 Series GPUs
gfx950
完全
Linux のみ
CDNA 3
Instinct™ MI300 Series GPUs
gfx940, gfx941, gfx942
完全
Linux のみ
CDNA 2
Instinct™ MI200 Series GPUs
gfx90a
完全
Linux のみ
私たちはより多くの AMD GPU のサポートに積極的に取り組んでいますが、残念ながら古いものには、私たちが対応するために必要なハードウェアサポートがありません。
🖥️ AMD で Unsloth を使うためのガイド
インストール後、ブラウザで Unsloth Studio を開けます。そこから、AMD ハードウェア上でローカル LLM を自動的に実行・ファインチューニングできます。詳細なインストール手順は以下をご覧ください:
AMD インストールガイドUnsloth Studio をインストール
モデル、データセット、学習設定を選択して開始します。たとえば、Gemma 4 12B に対してコンテキスト長約 16k、LoRA rank 16、学習率 0.0002、最大 30 ステップで QLoRA 4-bit ファインチューニングを実行できます。
Unsloth Studio のファインチューニング画面は完全にカスタマイズ可能で、モデル、データセット、学習パラメータを設定できます。学習中、Unsloth は損失、RAM/VRAM 使用量、マルチ GPU 対応を含む進捗をリアルタイムで追跡します。学習が始まると、進捗がリアルタイムでプロットされます。
学習後は履歴を開いて過去および進行中の学習セッションを確認できます。ファインチューニング済みモデルのいずれかを選択して、過去の学習ログを表示します:
学習が完了したら、モデルを GGUF、マージ済みモデルの safetensors、または LoRA Adapter としてエクスポートし、Hugging Face、llama.cpp、vLLM、または Unsloth でデプロイできます。GGUF のエクスポートでは、Unsloth は AMD を考慮した llama.cpp ROCm ビルド済みバイナリを gfx アーキテクチャに合わせて使用し、ビルド済みがない場合はソースコンパイルにフォールバックします。エクスポートが完了すると、エクスポートが正常に完了しましたと表示されます。モデルを Hugging Face Hub に直接プッシュすることもできます。
モデルを希望の形式にエクスポートして、どこにでもデプロイできます。エクスポート後は、New Chat または Recents のモデルドロップダウンの Fine-tuned セクションからファインチューニング済みモデルを読み込みます。
ドロップダウンからファインチューニング済みモデルを選択し、Unsloth 内で直接チャットできます。これで、学習済みまたはダウンロード済みのモデルを New Chat、Recents、Projects で使えます。最高の体験のために think、code、search のトグルを有効にし、 Unsloth Studio Chat のドキュメントで詳細をご覧ください。
そして最後に、新しくファインチューニングしたモデルと Unsloth で直接チャットできます！
vLLM のログのように、ターミナル内でスループットや generation tokens / s も監視できます。表示されるのは "gen_tok_s" で、これは tokens / s を意味し、 "prompt_tok_s" はプロンプト処理を意味します。
📱スマホでの Unsloth とリモート HTTPS トンネリング
私たちは 無料の Cloudflare HTTPS トンネルを Unsloth に追加しました（LM Link に似ています）。これにより、リンクまたは別のコンピュータ経由で、スマホ（iPhone、Android、どんなスマホでも！）から Unsloth でモデルをリモートチャット / 学習できます。Mac、Linux、WSL、Windows デバイスで動作します。
スマホから学習とファインチューニング / ライブ学習ログ付きでリモート実行 - キャンセルや再学習も可能！
ツール呼び出しとライブストリーミング付きで、どこからでもブラウザでチャットできます。
実際の インタラクティブな HTML キャンバス の出力をスマホ上で直接表示 - LLM が作ったゲームを遊べます！
セットアップするには、まず Unsloth をインストールした後にターミナルで次を入力します: unsloth studio --secure 。HTTPS リンクに許可のない人がアクセスできないよう、パスワードを設定してください！
次にログで、 緑色の Cloudflare リンク を使って、スマホまたは任意のリモートデバイスでこれを開きます！
これで完了です！Unsloth Studio を起動したターミナルで CTRL+C を押せば、ライブ HTTPS 配信リンクをいつでも監視 / キャンセルできます！
❓Unsloth の AMD サポートはどのように構築されたか
Unsloth のカスタムカーネルは、AMD チームとの緊密な協力のもと AMD に移植されました。これには、インストーラ、ハードウェア検出、ランタイムルーティング、監視、ビルド済みアセット選択にわたる変更が必要でした。
ROCm カーネル: RDNA と CDNA 向けに調整された HIP/Triton ポートで、アーキテクチャ固有の精度、性能、安定性の修正を含みます。（#2520)
4-bit 学習: Radeon および CDNA GPU 向けの bitsandbytes ベースの QLoRA サポート。（#3748)
自動セットアップ: 堅牢な AMD GPU 検出と、修復およびプラットフォーム保護を含む正しい ROCm PyTorch wheel のインストール。（#4770)
ROCm 推論: アーキテクチャ固有の llama.cpp ビルド済みバイナリ、ソースビルドへのフォールバック、AMD VRAM 検出、監視。（#5172)
🕐 今後の作業
AMD での動作を素晴らしくするために協力してくれた AMD チームに心から感謝します！今後の優先事項は次のとおりです:
AMD チームとの継続的な開発と連携。
AMD Strix Halo と Radeon Lab のハードウェアを用いたハードウェアバックエンド CI/CD の拡張。
新しい AMD GPU カードとアーキテクチャのリリース時のサポート。
より明確なマルチ GPU ガイダンス: AMD の分散学習は現在 Linux のみ対応です。Linux では ROCm が RCCL を使うため、分散学習は動作します。Windows では、AMD ROCm はまだ GPU 集約バックエンドを提供しておらず、 TheRock #5694時点では GLOO/CPU のみ対応です。AMD のマルチ GPU 学習を行う予定なら Linux を使ってください。
ROCm スタックに関するさらなる速度最適化。
💌 AMD の協力に感謝します！
このリリースで私たちと協力してくれた AMD チームと素晴らしい Unsloth コミュニティに心から感謝します。AMD サポートを Unsloth で素晴らしく動作させるために協力してくれた Strahinja Stamenkovic、Filip Jankovic、Iswarya Alex、Yue Yuan Bill He、Eda Zhou、Mahdi Ghodsi、Guruprasad、そして AMD チーム全体に感謝します！また、コミュニティメンバーの Nate、UBER6、AiwendilOfMirk...、Gene、Jimster480、VELICAN、Vintheboy、archmaker、BichonFriseMax、Calandracas、Chigoma333、Edd、electroglyph、jslowbell、mk 27B UD-、Satyam、snapcast3r、TotoMC の皆さん、テストとデバッグに協力してくれて本当にありがとうございました。
AMD で Unsloth を使う簡単な方法は AMD Developer Cloudを利用することです。192GB VRAM 搭載の MI300X GPU を使ったワンクリックノートブックがあります。AMD はまた、 AMD AI Developer Programを通じて無料クレジットも提供しています。Unsloth ノートブックを実行するには、 unslothai/notebooks の AMD ノートブックを任意に使い、ノートブックのパスは同じなので GitHub ドメインを AMD Developer Cloud の URL に置き換えてください。
ヘルプが必要、またはフィードバックを共有したいですか？ Discordに参加するか、 AMD docsを読むか、 GitHubで issue または PR を開くか、 Reddit r/unsloth に投稿してください.
最終更新
役に立ちましたか？