業務でローカルLLMを動かす自作PC 最小構成2026｜VRAM早見表と量子化の選び方

※ 本記事はアフィリエイト広告（Amazon アソシエイト等）を含みます

「社外秘の資料をクラウドAIに貼りたくない」「コード補助を従量課金なしで常用したい」——この2つを満たすのがローカルLLMです。鍵はGPUのVRAM容量ただ一点。本記事は、業務で実用になる最小ラインを、モデルサイズと量子化の関係から逆算して構成に落とし込みます。生成AI全般の負荷は生成AI PCの考え方、実測はローカルLLMベンチもどうぞ。

結論から言うと、業務用ローカルLLM機で最初に決めるのはGPUのVRAM容量で、コスパの分水嶺は24GBです。 LLMの推論速度はモデルの重みがVRAMに載りきるかどうかで決まり、CPUのコア数やクロックはほとんど効きません。だから「どのモデルを、どの量子化で、どのVRAMに載せるか」を先に決めれば、残りのパーツ（CPU・RAM・電源）は自ずと決まります。以下、VRAMの必要量→量子化の選び方→予算別3構成→運用ソフトの順で、業務実用のラインを具体的に引いていきます。

この記事の要点

• 🎯 ローカルLLMの律速はVRAM容量（CPU性能やコア数より優先）
• 📐 目安：4bit量子化で「パラメータ数(B) × 約0.6GB」＋文脈分のVRAMが要る
• 💡 16GBで14B級が快適／24GBで32B級／**48GB(24GB×2)**で70B級
• 🧊 量子化はQ4_K_Mが品質と容量のバランス点。Q8は高品質だが約2倍
• 🧠 システムRAMは最低32GB・推奨64GB（オフロードと大きな文脈に効く）

1. なぜCPUでなくVRAMなのか

LLMの推論は「モデルの重みを全部メモリに載せて、ひたすら行列積を回す」処理です。重みがVRAMに収まりきればGPUが高速に処理し、収まらない分はシステムRAMへあふれてCPU処理になり、一気に遅くなります。つまり「VRAMに載るかどうか」が体感速度の崖です。CPUを上位に変えても、VRAMからあふれた瞬間の失速は埋められません。投資はまずVRAMに寄せるのが鉄則です。

2. VRAM早見表（モデルサイズ × 量子化）

必要VRAMの目安（文脈8K想定・概算）

評価項目	Q4(4bit) 推奨	Q6	Q8	FP16
7〜8B モデル	約6GB	約8GB	約10GB	約18GB
14B モデル	約10GB	約14GB	約18GB	約30GB
32B モデル	約21GB	約28GB	約36GB	不可(一般GPU)
70B モデル	約42GB	約56GB	約72GB	不可

業務での実感として、コード補助・文書要約・社内RAGなら14B〜32B級で十分実用。70B級は精度は上がりますが、費用対効果では32Bが分水嶺です。実際、7B級はQ4_K_Mで約4.5GBまで縮み、FP16（約14GB）に対して7割ほどVRAMを節約できます（PromptQuorum）。この「Q4なら重みが約1/4」という関係が、上の早見表の背骨になっています。

3. 量子化の選び方

• Q4_K_M … 既定の第一候補。品質低下はわずかで容量は約1/4。
• Q5 / Q6 … VRAMに余裕があれば品質を底上げ。
• Q8 … ほぼ無損失だがVRAM約2倍。32B以上では現実的でないことが多い。
• FP16 … 研究・微調整向け。推論用途では過剰。

Q4_K_Mが“既定の第一候補”になるのには理由があります。llama.cpp の量子化は Q2_K〜Q8_0 まで多数の種別を持ち、その中で K-quant（K_M/K_S）系は「大半の重みを4bit、品質に効く一部の層だけ6bit」に振り分ける構造を採ります（llama.cpp quantize README）。これによりナイーブな4bit（Q4_0）より品質を保ちつつ容量を抑えられ、実測でもQ4_K_MはFP16比で品質低下1〜3％程度にとどまります（PromptQuorum）。コード用途の Qwen 系コーダーでも、8Bクラスで常用されるのは Q8_0 / Q5_K_M / Q4_K_M で、業務では Q4_K_M が扱いやすい起点です（Qwen 公式ドキュメント）。

4. 予算別・最小構成3段（2026実勢）

ローカルLLM 業務機の3段階

評価項目	エントリー(16GB)	スタンダード(24GB) 推奨	ハイ(48GB)
狙えるモデル	〜14B快適 / 32Bは低速	32B快適 / 70Bは要工夫	70B(Q4)が実用
GPU例	VRAM16GBクラス	VRAM24GBクラス	VRAM24GB×2
システムRAM	32GB	64GB	64〜128GB
主な用途	コード補助/要約	社内RAG/長文	高精度・複数同時

VRAM16GBの費用対効果はRTX 4060 Ti 16GBの深掘り、その限界はSDXL/LLMでの限界が参考になります。まず16GBで14B級を常用し、社内RAGや長文要約で頭打ちを感じたら24GBへ、という段階投資が失敗しにくい順序です。

GPU以外で削ってよい所・ダメな所

電源は電源選びガイドを基準に、GPUのピークに対し余裕を持たせます。モデルを何本も置くならSSDは早めに1TB→2TBへ。GGUFは1モデルで数GB〜数十GBあり、量子化違いを複数持つとすぐ埋まります。

5. 動かすソフト

導入の手軽さなら Ollama か LM Studio、細かく詰めるなら llama.cpp。この3つはいずれも llama.cpp のエンジンと GGUF 形式を土台にしており、同じGGUFファイルがそのまま使い回せます（Ollama/LM Studio は llama.cpp を内部で利用）。だから「まずOllamaで試し、詰める段でllama.cppに降りる」といった移行も、モデルを入れ直さずに進められます。コード補助は Qwen 系コーダー、汎用は同世代の中型モデルが業務で扱いやすい構成です。量子化済みモデル（GGUF）を選ぶだけで、上の早見表どおりに動きます。

6. 常時稼働させるなら

コード補助や社内RAGを“いつでも応答”で使いたいなら、PCを24時間つけっぱなしにする運用になります。その場合はVRAMだけでなく、冷却と電源の連続負荷設計が効いてきます。詳しくは24時間つけっぱなしの自作PC設計にまとめましたが、要点は「空冷優先・高効率電源・GPUの電力制限」。ローカルLLM常駐は熱と電源の設計余裕が最も効く用途なので、常時稼働前提なら本記事の構成に“1ランクの安定投資”を足すと壊れにくくなります。

よくある質問

Q. VRAMが足りないモデルは動かせない？ 動きますが遅くなります。あふれた重みはシステムRAM＋CPUで処理されるため、速度が大きく落ちます。「一応動く」と「実用的に速い」は別物なので、常用するモデルはVRAMに載るサイズ・量子化を選ぶのが基本です。

Q. まず16GBで始めて後から増やせる？ GPUを載せ替えれば増やせます。16GBで14B級を試し、社内RAGや長文で頭打ちを感じたら24GBへ、というステップが無駄になりにくい順序です。VRAMは基本的に“後から足す”のが難しい部品なので、迷ったら1段上を選ぶと寿命が延びます。

Q. Q4_K_MとQ8、業務ではどちらを選ぶ？ まずはQ4_K_Mで十分です。品質低下は1〜3％程度で、多くの業務タスクでは体感差になりません。VRAMに余裕があり、要約や翻訳で細部の正確さを詰めたいときだけQ5〜Q8に上げる、という使い分けが現実的です。

まとめ

• VRAMがすべて。パラメータ数 × 0.6GB ＋ 文脈分で必要量を逆算する
• 業務実用は14B〜32B、コスパの分水嶺は24GB VRAM
• 量子化はQ4_K_Mを起点に、余ったVRAMで品質を上げる
• システムRAMは64GBにしておくとオフロード・長文で詰まらない

「社外に出せないデータをAIで処理する」という業務要件を、ランニングコストゼロで満たせるのがローカルLLM機の価値です。VRAMを軸に構成を決めれば、過不足のない一台にまとまります。

出典・参考

• llama.cpp: quantize README（K-quant種別とQ4_K_Mの位置づけ）
• Qwen 公式ドキュメント: llama.cpp（8Bで常用される Q8_0/Q5_K_M/Q4_K_M）
• PromptQuorum: LLM Quantization Explained（Q4_K_MのVRAM・品質トレードオフ）