# iOSまたはAndroidスマートフォンでLLMを実行・デプロイする方法
どのようにLLMをトレーニングしてから **ローカルにデプロイするかをお見せできることを楽しみにしています** に **Androidフォン** および **iPhone**。私たちは共同で作業しました： [ExecuTorch](https://github.com/pytorch/executorch/) PyTorchとMetaと協力して、量子化を意識したトレーニング（[QAT](https://unsloth.ai/docs/jp/burogu/quantization-aware-training-qat)）を使用する合理化されたワークフローを作成し、それをエッジデバイスに直接デプロイします。とともに [Unsloth](https://github.com/unslothai/unsloth)、TorchAO、ExecuTorchを使用して、次のことを示します：
* MetaがInstagramやWhatsAppで数十億に提供しているのと同じ技術（ExecuTorch）を使用する
* Qwen3-0.6Bをローカルにデプロイする **Pixel 8** および **iPhone 15 Proで約40トークン/秒**
* TorchAOを介したQATを適用して精度の70%を回復する
* プライバシー第一、即時応答、オフライン機能を得る
* 私たちの [無料のColabノートブック](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_\(0_6B\)-Phone_Deployment.ipynb) を使用してQwen3 0.6Bをファインチューニングし、電話へのデプロイ用にエクスポートします
iOSチュートリアルAndroidチュートリアル
{% columns %}
{% column %}
**Qwen3-4B** iPhone 15 Proにデプロイ済み
{% endcolumn %}
{% endcolumns %}
### シミュレータへのデプロイ
**開発者アカウントは不要です。**
**モデルファイルを準備する**
1. Xcodeでシミュレータを停止します（停止ボタンを押す）
2. HuggingFace Hubのリポジトリに移動します（ローカルに保存していない場合）
3. 次の2つのファイルをダウンロードします：
1. `qwen3_0.6B_model.pte` （エクスポートしたモデル）
2. tokenizer.json（トークナイザー）
**シミュレータ上に共有フォルダを作成する**
1. シミュレータの仮想ホームボタンをクリックする
2. Filesアプリ → ブラウズ → On My iPhone を開く
3. 省略記号（•••）ボタンをタップして、次の名前の新しいフォルダを作成します： `Qwen3test`
**ターミナルを使ってファイルを転送する**
```bash
# シミュレータの隠しフォルダを見つける
find ~/Library/Developer/CoreSimulator/Devices/ -type d -iname "*Qwen3test*"
```
フォルダが見つかったら次を実行してください：
```bash
cp tokenizer.json /path/to/Qwen3test/tokenizer.json
cp qwen3_0.6B_model.pte /path/to/Qwen3test/qwen3_model.pte
```
**ロードしてチャットする**
{% columns %}
{% column %}
1. シミュレータ内のetLLMアプリに戻り、タップして起動します。
{% endcolumn %}
{% column %}
2\. Qwen3testフォルダからモデルとトークナイザーをロードします
{% endcolumn %}
{% column %}
3\. ファインチューニングしたモデルでチャットを開始しましょう！ 🎉
{% endcolumn %}
{% endcolumns %}
### 物理的なiPhoneへのデプロイ
**初期デバイス設定**
1. iPhoneをUSBでMacに接続する
2. iPhoneのロックを解除して「このデバイスを信頼」をタップする
3. Xcodeで、Window → Devices and Simulators に移動する
4. 左側にデバイスが表示されるのを待ちます（しばらく「Preparing」と表示される場合があります）
**Xcodeの署名を設定する**
{% columns %}
{% column %}
1. Appleアカウントを追加：Xcode → Settings → Accounts → `+`
2. プロジェクトナビゲータでetLLMプロジェクト（青いアイコン）をクリックする
3. TARGETSの下でetLLMを選択する
4. Signing & Capabilitiesタブに移動する
5. 「Automatically manage signing」をチェックする
6. ドロップダウンからチームを選択する
{% endcolumn %}
{% column %}
{% endcolumn %}
{% endcolumns %}
{% hint style="warning" %}
バンドル識別子を一意のものに変更する（例：com.yourname.etLLM）。これでプロビジョニングプロファイルのエラーの99%が解決します
{% endhint %}
**必要な機能を追加する**
1. Signing & Capabilitiesのまま、+ Capabilityをクリックする
2. 「Increased Memory Limit」を検索して追加する
**ビルドして実行する**
1. 上部ツールバーでデバイスセレクタから物理iPhoneを選択する
2. 再生ボタン（▶️）を押すか Cmd + R を押す
**開発者証明書を信頼する**
最初のビルドは失敗します—これは正常です！
1. iPhoneで、設定 → プライバシーとセキュリティ → 開発者モード に移動する
2. オンに切り替える
3. 注意事項に同意して受け入れる
4. デバイスを再起動し、Xcodeに戻って再度再生を押す
{% hint style="warning" %}
開発者モードによりXcodeがiPhoneでアプリを実行およびインストールできるようになります
{% endhint %}
**モデルファイルをiPhoneに転送する**
1. アプリが実行中になったら、MacでFinderを開く
2. サイドバーであなたのiPhoneを選択する
3. Filesタブをクリックする
4. etLLMを展開する
5. .pteとtokenizer.jsonファイルをこのフォルダにドラッグ＆ドロップする
6. しばらくお待ちください！これらのファイルは大きく、数分かかる場合があります
**ロードしてチャットする**
{% columns %}
{% column %}
1. iPhoneでetLLMアプリに戻る
2. アプリのインターフェースからモデルとトークナイザーをロードする
{% endcolumn %}
{% column %}
3\. あなたのファインチューニング済みQwen3がネイティブにiPhone上で動作します！
{% endcolumn %}
{% endcolumns %}
## :android: Androidデプロイ
このガイドでは、Linux/Macのコマンドライン環境を使ってExecuTorch LlamaデモアプリをAndroidデバイスにビルドしてインストールする方法を説明します（Pixel 8でテスト済みですが他のAndroidでも動作します）。この方法は依存関係を最小化し（Android Studio不要）、重いビルド処理をコンピュータに委任します。
### 要件
開発マシンに次がインストールされていることを確認してください：
* Java 17（Java 21がデフォルトの場合がありますがビルドの問題を引き起こすことがあります）
* Git
* Wget / Curl
* Androidコマンドラインツール
* [インストールのガイド](https://www.xda-developers.com/install-adb-windows-macos-linux/) と設定 `adb` をあなたのAndroidとコンピュータに
#### 検証
Javaのバージョンが17.xであることを確認してください：
```bash
# 出力は次のようになるはずです: openjdk version "17.0.x"
java -version
```
一致しない場合はUbuntu/Debianでインストールしてください：
```bash
sudo apt install openjdk-17-jdk
```
その後デフォルトに設定するか、次をエクスポートします `JAVA_HOME`:
```bash
export JAVA_HOME=/usr/lib/jvm/java-17-openjdk-amd64
export PATH=$JAVA_HOME/bin:$PATH
```
別のOSやディストリビューションを使用している場合は、次の [ガイド](https://docs.oracle.com/en/java/javase/25/install/overview-jdk-installation.html) に従うか、お気に入りのLLMに手順を尋ねてください。
### ステップ1：Android SDK & NDKをインストールする
フルのAndroid Studioなしで最小限のAndroid SDK環境を設定します。
1\. SDKディレクトリを作成：
```bash
mkdir -p ~/android-sdk/cmdline-tools
cd ~/android-sdk
```
2. Androidコマンドラインツールをインストールする
```bash
wget https://dl.google.com/android/repository/commandlinetools-linux-11076708_latest.zip
unzip commandlinetools-linux-*.zip -d cmdline-tools
# 重要：SDK構造を満たすために再配置する
mv cmdline-tools/cmdline-tools cmdline-tools/latest
```
### ステップ2：環境変数を設定する
次をあなたの `~/.bashrc` または `~/.zshrc`:
```bash
に追加してください
export ANDROID_HOME=$HOME/android-sdk
export PATH=$ANDROID_HOME/cmdline-tools/latest/bin:$PATH
```
export PATH=$ANDROID\_HOME/platform-tools:$PATH
```bash
それらをリロードします：
```
### source \~/.zshrc # またはシェルに応じて \~/.bashrc
ステップ3：SDKコンポーネントをインストールする
```bash
ExecuTorchは特定のNDKバージョンを要求します。
# ライセンスを受け入れる
yes | sdkmanager --licenses
# API 34 と NDK 25 をインストール
```
sdkmanager "platforms;android-34" "platform-tools" "build-tools;34.0.0" "ndk;25.0.8775105"
```bash
NDK変数を設定：
```
### export ANDROID\_NDK=$ANDROID\_HOME/ndk/25.0.8775105
ステップ4：コードを取得する `私たちは` executorch-examples
```bash
リポジトリを使用します。ここには更新されたLlamaデモが含まれています。
cd ~
git clone https://github.com/meta-pytorch/executorch-examples.git
```
### cd executorch-examples
ステップ5：一般的なコンパイル問題を修正する
**現在のコードにはこれらの問題はないかもしれませんが、以前に直面したことがあり参考になる場合があります：**
"SDK Location not found" を修正： `Create a` local.properties
```bash
ファイルを作成してGradleにSDKの場所を明示的に伝えます：
```
**echo "sdk.dir=$HOME/android-sdk" > llm/android/LlamaDemo/local.properties `次のような` cannot find symbol**
エラーを修正する： `現在のコードは非推奨のメソッド`getDetailedError()
```bash
を使用しています。これを次のコマンドでパッチします：
```
### sed -i 's/e.getDetailedError()/e.getMessage()/g' llm/android/LlamaDemo/app/src/main/java/com/example/executorchllamademo/MainActivity.java
ステップ6：APKをビルドする
1. このステップでアプリとネイティブライブラリがコンパイルされます。
```bash
Androidプロジェクトに移動：
```
2. cd llm/android/LlamaDemo `JAVA_HOME` Gradleでビルドする（ツールチェーンエラーを避けるために明示的に
を17に設定）：
```bash
export JAVA_HOME=/usr/lib/jvm/java-17-openjdk-amd64
注：最初の実行は数分かかります。
```
3. ./gradlew :app:assembleDebug
```
生成されたapkは次にあります：
```
### app/build/outputs/apk/debug/app-debug.apk
ステップ7：Androidデバイスにインストールする
#### アプリをインストールするには2つのオプションがあります。
オプションA：ADBを使用する（有線/無線） `adb` もしあなたが
```bash
電話にアクセスできる場合：
```
#### adb install -r app/build/outputs/apk/debug/app-debug.apk
オプションB：直接ファイル転送
1. リモートVM上にいるかケーブルがない場合：
2. app-debug.apkを電話からダウンロードできる場所にアップロードする
3. 電話でダウンロードする
### タップしてインストールする（促されたら「提供元不明のアプリをインストール」を許可）
ステップ8：モデルファイルを転送する
1. アプリは.pteモデルとトークナイザーファイルを必要とします。
2. ファイルを転送する：model.pteとtokenizer.bin（またはtokenizer.model）を電話のストレージ（例：Downloadsフォルダ）に移動します。
3. LlamaDemoアプリを開く：電話でアプリを起動します。
4. モデルを選択する
5. 設定（歯車アイコン）またはファイルピッカーをタップする
6. ダウンロードフォルダに移動する
7. .pteファイルを選択する
トークナイザーファイルを選択する
### トラブルシューティング
* 完了！これでデバイス上で直接LLMとチャットできます。
* ビルドが失敗しますか？java -version を確認してください。必ず17である必要があります。 `.pte` モデルが読み込まれませんか？両方のファイルを選択したことを確認してください： `と`.
* トークナイザー `.pte` アプリがクラッシュしますか？有効な
### ファイルは通常CPU用のXNNPACKバックエンドなど、ExecuTorch用に特別にエクスポートされている必要があります。
モデルを電話に転送する `現在、` executorchllama
#### 私たちがビルドしたアプリは、Android上の特定のディレクトリからのみモデルをロードすることをサポートしており、残念ながら通常のファイルマネージャからはアクセスできません。しかしadbを使えばそのディレクトリにモデルファイルを保存できます。
```shellscript
adbが正しく動作して接続されていることを確認してください
```
{% columns %}
{% column %}
1. adb devices
{% endcolumn %}
{% endcolumns %}
許可を与えるかどうかを求めるポップアップが電話に表示されるので確認してください（許可することを推奨） `.pte` および `準備ができたら、配置する必要がある` tokenizer.json
ファイル用のフォルダを作成します。
```shellscript
電話上にディレクトリを作成します。
adb shell mkdir -p /data/local/tmp/llama
```
adb shell chmod 777 /data/local/tmp/llama
```shellscript
ディレクトリが正しく作成されたことを検証します。
adb shell ls -l /data/local/tmp/llama
```
total 0
```shellscript
内容を前述のディレクトリにプッシュします。これにはコンピュータ、接続、電話の性能によって数分かかる場合があります。しばらくお待ちください。
adb push /data/local/tmp/llama
```
{% columns %}
{% column %}
1. adb push \ /data/local/tmp/llama `先ほどインストールした` executorchllamademo
2. アプリを開き、右上の歯車アイコンをタップして設定を開きます。
3. Modelの隣の矢印をタップしてピッカーを開きモデルを選択します。\
空白の白いダイアログでファイル名が表示されない場合、ADBによるモデルのプッシュが失敗している可能性があります—その手順をやり直してください。また最初は「モデル未選択」と表示されることがあります。
{% endcolumn %}
{% column %}
{% endcolumn %}
{% endcolumns %}
{% columns %}
{% column %}
5\. モデルを選択すると、アプリはモデルのファイル名を表示するはずです。
{% endcolumn %}
{% column %}
6\. 同様にトークナイザーも選択してください。トークナイザー欄の矢印をクリックして対応するファイルを選択します。
{% endcolumn %}
{% column %}
7\. アップロードするモデルに応じてモデルタイプを選択する必要があるかもしれません。ここではQwen3が選択されています。
{% endcolumn %}
{% endcolumns %}
{% columns %}
{% column %}
8\. 両方のファイルを選択したら「Load Model」ボタンをクリックします。
{% endcolumn %}
{% column %}
9\. チャットウィンドウの元の画面に戻り、「model loading」と表示されるかもしれません。電話のRAMやストレージ速度によっては完了まで数秒かかることがあります。
{% endcolumn %}
{% endcolumns %}
### :mobile\_phone:「successfully loaded model」と表示されたら、モデルとチャットを開始できます。 めでたし、これであなたのAndroid電話上でネイティブに動作するLLMが手に入りました！
ExecuTorch [ExecuTorchは数十億人に力を与えます](https://engineering.fb.com/2025/07/28/android/executorch-on-device-ml-meta-family-of-apps/) Instagram、WhatsApp、Messenger、Facebookでオンデバイスの機械学習体験を実現しています。Instagram CutoutsはExecuTorchを使用して写真から編集可能なステッカーを抽出します。Messengerのような暗号化されたアプリでは、ExecuTorchはオンデバイスでプライバシーに配慮した言語識別や翻訳を可能にします。ExecuTorchはApple、Qualcomm、ARMなど多数のハードウェアバックエンドをサポートしています。 [MetaのQuest 3やRay Bansでも動作します](https://ai.meta.com/blog/executorch-reality-labs-on-device-ai/).
## その他のモデルサポート
* すべてのQwen 3のデンスモデル（[Qwen3-0.6B](https://huggingface.co/unsloth/Qwen3-0.6B), [Qwen3-4B](https://huggingface.co/unsloth/Qwen3-4B), [Qwen3-32B](https://huggingface.co/unsloth/Qwen3-32B) など）
* すべてのGemma 3モデル（[Gemma3-270M](https://huggingface.co/unsloth/gemma-3-270m-it), [Gemma3-4B](https://huggingface.co/unsloth/gemma-3-4b-it), [Gemma3-27B](https://huggingface.co/unsloth/gemma-3-27b-it) など）
* すべてのLlama 3モデル（[Llama 3.1 8B](https://huggingface.co/unsloth/Llama-3.1-8B-Instruct), [Llama 3.3 70B Instruct](https://huggingface.co/unsloth/Llama-3.3-70B-Instruct) など）
* Qwen 2.5、Phi 4 Miniモデル、その他多数！
あなたはカスタマイズできます [**無料のColabノートブック**](https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_\(0_6B\)-Phone_Deployment.ipynb) Qwen3-0.6Bのための設定をカスタマイズして、上記の任意のモデルを電話にデプロイできるように！
{% columns %}
{% column %}
**Qwen3 0.6B 主な電話デプロイ用ノートブック**
{% embed url="" %}
{% endcolumn %}
{% column %}
Gemma 3でも動作します
{% embed url="" %}
{% endcolumn %}
{% column %}
Llama 3でも動作します
{% embed url="" %}
{% endcolumn %}
{% endcolumns %}
私たちの [unsloth-notebooks](https://unsloth.ai/docs/jp/meru/unsloth-notebooks "mention") ページで他のすべてのノートブックを確認してください。
