ローカルデプロイ完全プレイブック：ハードウェア確認からワークフロー統合までの7ステップ
ローカルデプロイ完全プレイブック：ハードウェア確認からワークフロー統合までの7ステップ
散在するチュートリアルは「単一点」を扱います：Ollama のインストール方法、GGUF のダウンロード方法、プラグインの設定方法。しかし実際に日常使えるローカルモデルをデプロイするのは完全なチェーンです — ハードウェアは十分か、どのモデルとティアか、どのファイルか、どうサービス化するか、どうツールに統合するか、問題が起きたときどうデバッグするか。このプレイブックは7ステップでチェーンを歩き、各ステップに実行可能なコマンドと「止める・切り替える」判断基準を示します。
30 秒でわかる要点
7 ステップ：① ハードウェア確認（VRAM/RAM/ディスク）② モデル逆算（VRAM から規模とティア）③ GGUF ダウンロード ④ 実行（Ollama または llama.cpp）⑤ ローカルエンドポイント公開 ⑥ ツール統合（Cursor/Continue/Open WebUI）⑦ 監視とデバッグ。どのステップでも詰まったら、闇雲に試すのではなく判断基準に戻ります。
ステップ 1：ハードウェアと計算予算の確認
まず 3 つの項目を確認し、いずれかが不足なら目標を調整します（無理に進めない）：
| 項目 | 最低 | 推奨 | 確認方法 |
|---|---|---|---|
| VRAM | 8GB | 目標モデル次第（下記） | nvidia-smi |
| システム RAM | 32GB | 64GB+ | free -g / システム情報 |
| ディスク | 100GB 空き | 200GB+ | df -h |
VRAM の計算：目標パラメータ数 × ティア別バイト係数 + KV cache + 2GB オーバーヘッド。完全な公式と算例は VRAM 計算実践 を参照。一行にすると：27B は 24GB クラス、14B クラスは 16GB、4B クラスは 8GB で快適です。
ディスクは見落とされがち
27B モデルの Q4 GGUF だけで約 16GB あります。複数のティアやモデルを残しておくと 100GB はすぐ底をつきます。モデルキャッシュ（Ollama はデフォルトでホームディレクトリ）はシステムドライブにあり、いっぱいになりやすいです — モデルディレクトリを別ディスクに移すことを勧めます。
ステップ 2：VRAM からモデルとティアを逆算
VRAM 予算があれば、何が動くか逆引きできます：
| あなたの VRAM | 推奨ターゲット | 量子化ティア |
|---|---|---|
| 8GB | 4B クラス全家 / 7-8B Q4 | Q4_K_M |
| 16GB | 14B Q4/Q5、または 27B Q3 | Q4_K_M から |
| 24GB | 27B Q4/Q5 快適 | Q4_K_M / Q5_K_M |
| 48GB+ | 70B クラス Q4、または 27B Q8 | 品質要件次第 |
ファミリー選択：Qwen モデルの選び方、DeepSeek V4 全ラインナップ、Hunyuan hy4 と A13B。ティアのトレードオフ：GGUF 量子化ツール比較。
ステップ 3：GGUF のダウンロード
HuggingFace から目標モデルの GGUF をダウンロードします。2 つの方法：
# huggingface-cli で特定ファイルをダウンロード（モデルカードで実際のファイル名を確認）
huggingface-cli download <author>/<model>-GGUF \
<model>-Q4_K_M.gguf --local-dir ./models
または直接プルできるランタイム（Ollama が一部モデルで公式プルに対応）を使います。ダウンロード前にモデルカードのファイルサイズを確認し、後から「収まらない」と気づく事態を避けましょう。
ファイル名からサイズを推測しない
同じモデルの異なる量子化ティアはサイズが数倍異なります。ダウンロード前に各ファイルのサイズと最低ハードウェア要件をモデルカードで確認する — 最も時間を節約するチェックです。
ステップ 4：実行する
ルート A：Ollama（最速で検証）
# ローカル GGUF を指す Modelfile を書く
# FROM ./models/<model>-Q4_K_M.gguf
ollama create mymodel -f Modelfile
ollama run mymodel "自己紹介を一文で"
ルート B：llama.cpp（制御とサービス化）
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp && make -j
./build/bin/llama-server \
-m ./models/<model>-Q4_K_M.gguf \
-ngl 35 \
-c 8192 \
--host 127.0.0.1 --port 8080
2 つのルートの選び方
結果を検証したいだけ：Ollama、コマンド 1 つ。GPU レイヤー、コンテキスト、並行性を調整したい、または長期サービスを動かしたい：llama.cpp（llama-server は OpenAI 互換 API を提供）。両方とも GGUF を消費するので、モデルファイルは互換です。
ステップ 5：ローカルエンドポイントの公開
モデルをツールに統合するには、長期稼働する HTTP エンドポイントが必要です：
- Ollama：デフォルトで
127.0.0.1:11434をリッスンし、OpenAI 互換 API を提供 - llama.cpp：
llama-serverは指定ポートをリッスンし、/v1/chat/completionsも互換
エンドポイントのセキュリティ境界
デフォルトで 127.0.0.1 にバインドしローカルアクセスのみ — これが正しいデフォルトです。LAN の他のマシンから使うには、明示的にバインドアドレスを変更し、認証なしの推論サービスをネットワークに公開することを理解する必要があります：ファイアウォールルールを追加し、信頼できるネットワークのみで開放し、認証付きリバースプロキシを前置きしましょう。
ステップ 6：ツールへの統合
ローカルエンドポイントが動けば、統合は「アドレスを指してモデルを選ぶ」だけです：
| ツール | 方法 | ガイド |
|---|---|---|
| Cursor | Override OpenAI Base URL をローカルエンドポイントに | Cursor 統合 |
| Continue | config ファイルで apiBase を宣言 | Continue 統合 |
| Open WebUI | 接続設定で API Base URL を設定 | Open WebUI 統合 |
| 自作アプリ | OpenAI SDK の base_url をここに | ローカルコーディングワークフロー |
1 つの実用的な詳細：エディタプラグインには通常タイムアウトがあり、ローカルモデルの初回ロードには時間がかかります — タイムアウトを大きくするか、統合前に数回のウォームアップリクエストを実行してください。
ステップ 7：監視、デバッグ、フォールバック
監視：nvidia-smi で VRAM ピーク、llama.cpp ログで KV cache 割り当てと token/s。
デバッグの固定順序：
- VRAM 不足 → コンテキスト（
-c）を下げるかティアを下げる - コンテキストは足りるが遅い → RAM オフロードレイヤーを減らし、GPU が使われているか確認
- 出力が乱れる / ロード失敗 → エンジンを更新（MoE アーキテクチャはエンジンバージョンに敏感）
- ツール側エラー → まず curl でエンドポイントを直接叩き、エンドポイント問題かツール設定問題かを切り分ける
フォールバック：ローカルモデルが主力、クラウドがセーフティネット。ローカルが遅い、落ちた、フラッグシップ品質が必要なとき、1 つのフォールバック呼び出しでクラウド API（EXAIV の OpenAI 互換エンドポイント、ID は /models カタログに従う）に切り替え、開発ループを止めません。コストのトレードオフは ローカル計算コストモデル を参照。
ローカルへの投資を止めるべきとき
目標モデルがフラッグシップ品質を必須とする、並行性がローカルハードウェアを超える、チームにメンテナンス余力がない — ローカルは唯一の答えではありません。これらの場合はクラウド API の方が摩擦が少ないです。「どちらがクールか」ではなく「どのモードが自分の量、プライバシー要件、運用能力に合うか」で判断しましょう。
FAQ
パイプライン全体にどれくらい時間がかかりますか？
Ollama と llama.cpp は同時に使えますか？
ローカルモデルはどのくらいの頻度で更新すべき？
ローカルデプロイにインターネットは必要ですか？
複数ユーザーで使う場合の注意点は？
デプロイ後に速度が不満なときは？
関連記事
- ローカル LLM のための GPU 選びガイド — カード購入前に必読
- VRAM 計算実践 — 公式と実測
- ローカル計算コストモデル — 購入 vs レンタル vs API
- Qwen GGUF ローカルデプロイ入門 — 量子化とデプロイの基礎
- 中国製オープンウェイト vs 米国フラッグシップ — ローカルとクラウドの全体像