ローカルLLMに必要なVRAMとスペック｜モデル別の目安

こんにちは、ローカルAI工房のコーボーです。

ローカルLLMを始めようと調べると、「7B」「14B」「Q4_K_M」みたいな暗号のような表記が並んでいて、「結局うちのグラボで何が動くの？」と手が止まりますよね。私はAIイラスト制作の実務でRTX 4070 SUPER（VRAM 12GB）を毎日回している立場ですが、ローカルLLMも同じGPUで動かす以上、VRAMがどこまで持つかを先に把握しておかないと、入れたモデルが動かない・動いても遅すぎるという遠回りをします。この記事では、モデルサイズと量子化からVRAMの必要量を逆算する考え方を、早見表つきで整理していきますね。

• VRAM 8GB・12GB・16GB・24GBで動くモデルサイズの目安
• パラメータ数・量子化・コンテキスト長がVRAMをどう食うか
• VRAMに載りきらないときに起きること（速度低下・RAM）
• 用途から逆算するGPUの選び方

結論：VRAMはモデルサイズから逆算する

まず結論からお伝えします。ローカルLLMの快適さはほぼVRAM容量で決まり、必要なVRAMは「使いたいモデルのパラメータ数×量子化」で逆算できます。

大事なのは「GPUありき」ではなく「用途→必要なモデルサイズ→必要なVRAM→GPU」の順で決めること。逆にGPUから入ると、「せっかく買ったのに使いたいモデルが載らない」か「オーバースペックで持て余す」のどちらかになりがちです。

私の考えを先に言っておくと、これから買うなら迷ったときは16GBを推します。12GBと16GBの差はたった4GBですが、ローカルLLMではその4GBが「14Bを余裕で回せるか」「コンテキスト長を伸ばせるか」の境目になるからです。画像生成でもSDXL系の快適ラインが16GBなので、両方やるなら結論が揃うんですよね。

VRAM容量別に動くモデルの早見表

もう少し細かく、VRAM容量ごとに「快適に載るモデルサイズ」を表にしました。量子化はもっとも一般的なQ4_K_M（4bit相当）を前提にした一般的な目安です。

「頑張れば動く」の列は、後述するCPUオフロードやコンテキスト短縮で無理やり載せる状態なので、快適さは落ちます。表の中身は執筆時点（2026年8月）の一般的な目安で、モデルの形式や実行ソフトによって前後します。最新の正確な情報は各モデル・ソフトの公式サイトでご確認ください。

ローカルLLMのVRAMはこう決まる

早見表の根拠になっている「VRAMが何で決まるか」を、3つの要素に分けて説明しますね。ここが分かると、表にないモデルでも自分で見当をつけられるようになります。

パラメータ数とファイル容量の関係

モデル名にある「7B」「14B」のBはbillion＝10億で、パラメータ（モデルの中身の数値）の数です。7Bなら70億個。この数値ひとつが何バイトで保存されているかで、ファイル容量が決まります。

圧縮なし（fp16）だと1パラメータ2バイトなので、7Bで約14GB、14Bで約28GB。この時点で家庭用GPUにはまず載りません。だから次の「量子化」が必須になるわけです。

ちなみに、パラメータ数が多いほど賢くなる傾向はありますが、比例はしません。7Bから14Bに上げると体感でかなり差が出る一方、14Bから32Bの差は用途によっては「言われてみれば」程度のこともあります。倍のVRAMを払って倍賢くなるわけではない、という感覚を持っておくと、無理に大きいモデルを追いかけずに済みますよ。

量子化で必要量が半分以下になる

量子化は、パラメータの精度を落として容量を圧縮する技術です。LM StudioやOllamaで配布されているモデルの多くは、Q4_K_M（4bit相当）という形式で、fp16の4分の1近くまで小さくなります。7Bなら約4〜5GB、14Bなら約8〜10GB、32Bなら約18〜20GB、というのが一般的な目安ですね。

ざっくりした計算法として、「Q4_K_Mのファイル容量＋2GB」がVRAMに収まるかで判断するのが定石です。＋2GBは、実行ソフト自体や推論中の作業領域、次に説明するKVキャッシュの取り分ですね。Q8（8bit）ならファイル容量は倍、Q3やQ2ならさらに小さくなりますが、精度を落としすぎると回答の質が目に見えて下がるので、迷ったらQ4_K_Mが無難です。

配布ページに「Q4_K_S」「Q5_K_M」「Q6_K」など似た表記が並んでいて迷うと思いますが、数字が量子化のビット数、末尾のS・M・Lがその中での精度の違いと覚えておけば十分です。VRAMに余裕があればQ5〜Q6、ギリギリならQ4_K_M、それでも載らないならモデルサイズを1段落とす、という順番で選ぶと失敗しにくいですね。

コンテキスト長でVRAMが膨らむ

見落とされがちなのがここです。LLMは会話の履歴や読み込ませた文書を「コンテキスト」として保持していて、その分の作業メモリ（KVキャッシュ）をVRAMに確保します。コンテキストを長くするほど、モデル本体とは別にVRAMを食うんですね。

コンテキストの単位は「トークン」で、日本語だとおおよそ1文字＝1トークン前後と考えると分かりやすいです。4K（約4,000トークン）なら短い記事1本ぶん、32Kなら文庫本の数十ページぶん、128Kなら1冊まるごと近い量ですね。

一般的な目安として、8Bクラスのモデルでコンテキスト4Kなら追加は数百MB程度ですが、32Kにすると数GB、128Kになると10GB近く増えることもあります。「モデルは載るのに長文を読ませたら落ちた」の正体はだいたいこれ。Ollamaは搭載VRAMに応じて標準のコンテキスト長を自動で切り替える仕組みになっていて、24GB未満では控えめな設定になります（出典：Ollama公式ドキュメント「Context length」）。

VRAMに載らないとどうなるのか

「多少はみ出しても動くんでしょ？」という疑問はもっともで、実際、ローカルLLMはVRAMに載りきらなくても動きます。ただし、その代償がかなり大きいので、ここで整理しておきますね。

CPUオフロードで速度が数分の一に

LM StudioやOllamaは、VRAMに載りきらない分をメインメモリ（RAM）に置き、CPUで処理する「CPUオフロード」を自動でやってくれます。落ちずに動くので一見親切なんですが、RAMとCPUはGPUよりずっと遅く、速度が数分の一〜10分の1程度に落ちるのが一般的に言われる目安です。1秒に数十文字出ていたのが、1文字ずつポツポツ出る感じになります。

やっかいなのは、オフロードは「全部載らないなら全部遅い」ではなく、はみ出した割合に応じて段階的に遅くなることです。9割VRAM・1割RAMなら「ちょっと遅いかな」で済みますが、半分がRAMに落ちると一気に体感が変わります。モデルを1サイズ大きくしただけで、快適だった環境が急に重くなるのはこのためですね。

この状態は「動いているのに使い物にならない」の典型で、初心者がローカルLLMを諦める一番の理由でもあります。VRAMに全部載る範囲でモデルを選ぶのが、遠回りに見えて結局いちばん快適ですね。Ollamaなら「ollama ps」コマンドでGPUとCPUの割合が確認できるので、遅いと感じたらまずそこを見てください。

RAMの役割と目安

VRAMの話ばかりしてきましたが、メインメモリ（RAM）もゼロではありません。モデルの読み込み時に一度RAMを経由すること、オフロードの受け皿になること、実行ソフトやブラウザも同時に動くことを考えると、RAMは32GBが現実的な下限、余裕を見るなら64GBというのが一般的な目安です。

ノートPCやミニPCで「RAM 16GB」の構成は、ローカルLLMだとかなり窮屈です。モデルの読み込みだけでRAMを圧迫し、ブラウザを開いただけでスワップが始まることもあります。GPUを積んだデスクトップを選ぶなら、RAMも最初から32GBにしておくのが後々ラクですね。

私の環境はRTX 4070 SUPER（12GB）にRAM 32GBという構成で、この記事の目安に当てはめると14Bクラスまでが守備範囲、32Bはオフロード前提になります。動画生成AIを触ったときにRAM 64GB推奨のモデルを見送った経験があるので、VRAMだけ増やしても次のボトルネックがRAMに移るのは実感としてありますね。

用途別に必要なモデルサイズ

ここまでで「VRAM→モデルサイズ」の対応は分かったと思います。次は逆方向、「やりたいこと→必要なモデルサイズ」です。これが決まれば、必要なVRAMは自動的に出てきます。

雑談・要約・翻訳なら7〜9Bで足りる

日本語での雑談、メールや記事の要約、簡単な翻訳、アイデア出しといった用途なら、7〜9Bクラスで十分実用になります。2026年時点では、Qwen3の8B、Gemma 3の4B〜12Bなど、このサイズでも日本語がかなり自然なモデルが揃っています（モデルの世代や名称は執筆時点のもので、更新が速い分野です）。必要VRAMは8GBあれば動き、12GBなら余裕。「まず触ってみたい」段階なら、ここから始めるのが正解ですね。

コーディングや複雑な指示は14〜32B

プログラムの生成やデバッグ、長い指示を正確に守らせる、複数の資料を突き合わせて考えさせる、といった用途になると、7Bクラスでは物足りなさが出てきます。目安として14Bで一段賢くなり、32Bで「クラウドのAIに近い」手応えになる、というのが一般的な評価です。必要VRAMは14Bで12〜16GB、32Bで24GB。「ローカルで本気で使いたい」人が24GBを目標にする理由がここにあります。

もうひとつ見落としやすいのが、自分の資料を読み込ませて答えさせる「RAG」や、長い文書の要約といった用途です。この場合はモデルサイズそのものよりコンテキスト長の余裕が効いてくるので、14Bクラスに数GBの余裕を足した16GB以上を見ておくと安心ですね。「モデルは中くらい、VRAMは多め」がRAG向きの構成です。

用途別の目安を一覧にするとこうなります。

VRAM別GPU候補とPCの選び方

最後に、必要VRAMが決まった人向けに、執筆時点（2026年8月）のGPU候補と、PCごと揃える場合の考え方をまとめます。価格は変動が大きいので、必ず購入時点の実売価格を確認してください。

表を見て「24GBはどこ？」と思った方もいるかもしれません。執筆時点では、24GBクラスは前世代のRTX 4090が中心で、新品の入手性も価格も落ち着いているとは言いにくい状況です。32Bクラスをどうしても載せたい人以外は、まず16GBで14Bクラスを快適に回し、24GB以上は次の世代や価格の落ち着きを待つ、という二段構えが現実的かなと思います。

ローカルLLMに限って言えば、同じ予算なら「速いGPU」より「VRAMの多いGPU」が正解です。生成速度の差は数割ですが、載る・載らないの差は使えるモデルそのものを変えるからですね。24GBクラスは執筆時点で選択肢が少なく価格も高いので、多くの人にとって現実的な落としどころは16GBかなと思います。

そしてもうひとつ。グラボ単体で買うより、電源・RAM・ケースをまとめてBTOで揃える方が結果的に安く、失敗も少ないケースが多いです。RAM 32GB以上と余裕ある電源がセットになった構成は、LLMと画像生成の両方で効いてきます。ローカルLLMと画像生成を両立するPC構成はローカルAI用パソコンの選び方で、GPU・メモリ・CPUの目安全体は生成AI向けパソコンのスペック解説で、これからPCごと選ぶ方はAI画像生成向けパソコンの選び方でくわしく解説しています。

スペックが決まったら、実際の導入はローカルLLMの始め方｜LM StudioとOllamaを解説の手順で進めてみてください。手持ちのGPUで動くモデルから始めれば、初日に会話までたどり着けますよ。

ローカルLLMのスペックでよくある質問

VRAM 8GBのグラボでもローカルLLMは使えますか？

使えます。7〜8BクラスのQ4量子化モデルなら8GBに収まり、雑談や要約は十分実用的です。ただしコンテキスト長は控えめにしないとあふれやすく、14B以上はCPUオフロードで遅くなります。「入門はできるが、賢さを求め始めると足りなくなる」ラインですね。

GPUなしでCPUとRAMだけで動かせますか？

動かせます。RAMに載る範囲のモデルならCPUだけでも動作しますが、速度はGPUの数分の一以下で、7Bクラスでも文字がゆっくり流れる程度です。「試す」目的なら十分ですが、日常的に使うならGPU（VRAM）があると体験がまったく変わりますよ。

Q4_K_MとQ8では、どちらを選べばいいですか？

迷ったらQ4_K_Mです。Q8は精度が高い分ファイル容量が倍近くになり、同じVRAMで載るモデルサイズが半分になります。多くの用途では「Q8の7B」より「Q4の14B」の方が賢く感じられるので、量子化を落として大きいモデルを載せる方が満足度が高いことが多いですね。

コンテキスト長はどれくらいに設定すればいいですか？

用途次第ですが、雑談や短い指示なら4K〜8Kで十分です。長い文書を読ませたい場合は32K以上が欲しくなりますが、その分VRAMを数GB余分に食います。VRAMが厳しいときはFlash AttentionやKVキャッシュの量子化を有効にすると、長いコンテキストでも消費を抑えられます。

画像生成用のPCなら、そのままローカルLLMもいけますか？

はい、基本的にそのまま使えます。どちらもGPUのVRAM容量が快適さを決めるので、SDXL向けに12〜16GBを積んだPCならローカルLLMも実用クラスまで動きます。違いはRAMの重要度で、LLMはモデル読み込みやオフロードでRAMを使うので、32GB以上あると安心ですね。

まとめ：用途から逆算すればVRAMは決まる

最後に要点をまとめますね。

ローカルLLMは「一番賢いモデル」を追いかけると際限なくVRAMが必要になりますが、「自分の用途に必要なサイズ」で考えると、意外と手が届く範囲に収まります。あなたのGPU選びの参考になればうれしいです。