MENU

Stable DiffusionのVRAM不足対策|設定と買い替えの判断

当サイトはアフィリエイト広告を利用しています。

こんにちは、ローカルAI工房のコーボーです。

Stable Diffusionで生成ボタンを押した瞬間、「CUDA out of memory」の赤いエラーが出て止まる。あるいは落ちはしないけど、1枚に何分もかかって「こんなに遅いものなの?」と不安になる。どちらもVRAM(グラボのメモリ)不足が原因のことがほとんどです。私はRTX 4070 SUPER(VRAM 12GB)で毎日AIイラストの実務を回していて、動画生成ではまさにこのエラーで壁にぶつかりました。VRAM不足は設定である程度しのげますが、根本解決はVRAM容量の増強です。この記事では「設定で粘る段階」と「買い替えに踏み切る段階」の線引きを、私の実体験も交えて整理していきますね。

  • CUDA out of memoryが出る仕組みと「遅い」との関係
  • 今すぐ試せるVRAM不足の設定対策
  • Forge Neo・ComfyUIそれぞれの省VRAM設定
  • 設定で粘るか、GPUを買い替えるかの判断基準
Stable DiffusionのVRAM不足対策のイメージ
目次

結論:設定で粘る段階と買い替える段階

まず結論からお伝えします。VRAM不足の対処は、「設定で粘る」と「GPUを買い替える」の2段階に分けて考えるのが一番スッキリしますよ。

VRAM不足の対処の全体像

第1段階(設定で粘る):画像サイズ・バッチ数の見直し、起動オプション、Forge NeoのGPU Weights、ComfyUIの省VRAMモード
第2段階(買い替え):「やりたいことの標準的な設定」がどうやっても動かない、または毎回極端に遅いなら、VRAM容量の多いGPUへ
・目安として、SDXL系の画像生成はVRAM 12GB〜が現実的、16GBあると快適。8GBは設定次第で動くが窮屈

設定で粘るのは無料なので、まず試す価値は十分あります。ただ、設定は「VRAMを節約する代わりに速度を犠牲にする」ものが多く、粘りすぎると毎回待たされる生活になります。そこが買い替えを考えるサインですね。

まず設定で粘るのが正解な人

次のような人は、GPUを買う前に設定を見直してください。かなりの確率で解決しますよ。

・SDXL系のモデルで、1024×1024前後の画像を1枚ずつ作りたい
・VRAMが8〜12GBあるのに、なぜかエラーが出る
・生成できるときとできないときがある(拡張機能やアップスケール時だけ落ちる)
・最近、急に遅くなった気がする

特に最後の「急に遅くなった」は、後ほど説明するメインメモリへのはみ出しが原因のことが多く、設定1つで劇的に変わることがあります。

買い替えを考え始めるべき人

一方で、次に当てはまるなら、設定で粘る時間がもったいないかもしれません。

・VRAMが6GB以下で、SDXL系やFLUX系を使いたい
・LoRA学習や動画生成をやりたい(画像生成より一段重い世界です)
・省VRAM設定にしたら動くけど、1枚に数分かかって創作のテンポが崩れる
・「作りたいもの」がはっきりしていて、今の環境がそれに届かないと分かっている

私自身、12GBで画像生成は快適に回せていますが、動画生成では720×1280がどうしても動かず、16GBのRTX 5070 Tiへの換装を決めました。「やりたいことの標準設定が動かない」が、私の中での買い替えラインです

コーボー

設定で粘るのは無料だけど、待ち時間という形で毎日少しずつ払っているんですよね。そこに気づいたときが、買い替えを真剣に考えるタイミングかなと思いますよ。

VRAM不足で何が起きているのか

対策の前に、エラーの意味を短く押さえておきましょう。ここが分かると、「どの設定が効くか」の見当がつくようになります。

Stable Diffusionは、モデル本体(数GB)・テキストエンコーダ・VAE(画像に変換する部品)・計算途中のデータを、すべてグラボのVRAMに載せて動きます。VRAMは「作業机の広さ」だと思ってください。机に載りきらない量の資料を広げようとすると、机から落ちる(エラー)か、隣の部屋(メインメモリ)まで取りに行く(極端に遅くなる)のどちらかが起きます。

VRAMを作業机にたとえたイメージ

CUDA out of memoryの意味

「CUDA out of memory」は、文字通りGPUのメモリが足りずに処理を確保できなかった、というエラーです。エラー文には「Tried to allocate ◯◯ GiB」のように、あとどれくらい足りなかったかが表示されます。この数字が数百MB程度なら設定の微調整で届く可能性が高く、数GB単位で足りないなら根本的に机が狭い、と読み分けると判断が速いですよ。

このエラーが出やすい場面は決まっていて、①大きな画像サイズ、②バッチ数(同時生成枚数)を増やしたとき、③高解像度補助(Hires.fix)やアップスケール、④ControlNetなど拡張機能を重ねたとき、⑤モデルを切り替えた直後、あたりです。「普段は動くのに、ここだけ落ちる」というのは、その操作が机の限界を少し超えているということですね。

OOMの後は再起動が安全

私の環境では、メモリ不足で落ちた後にそのまま生成を続けると、CUDAが不安定になって別のエラーが連鎖したことがあります。一度落ちたらWebUIごと再起動するのが結局いちばん早い、というのが実体験からの結論です。

落ちないのに極端に遅い正体

こちらは見落とされがちな症状です。NVIDIAのドライバには、VRAMが足りなくなったときにメインメモリ(PCのRAM)をGPUメモリの代わりとして使う「System Memory Fallback」という仕組みがあります。おかげでエラーで落ちにくくなった反面、メインメモリはVRAMよりずっと遅いので、はみ出した瞬間に生成速度がガクッと落ちます(出典:NVIDIA公式サポート「System Memory Fallback for Stable Diffusion」)。

「エラーは出ないけど、前より明らかに遅い」「タスクマネージャーで共有GPUメモリが増えている」なら、まずこれを疑ってください。対処はNVIDIAコントロールパネルの「3D設定の管理」→「CUDA – システムメモリフォールバックポリシー」を「システムメモリフォールバックを優先しない」にする方法があります。ただしこれを切ると、はみ出す状況では遅くなる代わりにエラーで止まるようになるので、「静かに遅い」より「はっきり落ちる」方が原因を特定しやすい、という使い分けですね。設定の名称や挙動はドライバのバージョンで変わることがあるので、最新の正確な情報は公式サイトでご確認ください。

コーボー

「落ちない=足りている」ではないんですよね。静かに遅くなる方が、原因に気づけない分だけ実は厄介だと思いますよ。

今すぐできるVRAM不足の設定対策

ここからが本題の第1段階、無料でできる対策です。効果が大きくて副作用が少ない順に並べたので、上から順に試してみてください。

省VRAM設定を調整するイメージ

画像サイズとバッチ数を見直す

いちばん効くのは、やはり生成サイズです。VRAMの使用量は画像の面積に応じて増えるので、縦横を少し縮めるだけで消費がかなり減ります。SDXL系なら1024×1024を基準に、まず832×1216や896×1152など総ピクセル数が同じか少し小さいサイズに落として様子を見るのが定石ですね。

次にバッチサイズ(Batch size)。これは「同時に何枚作るか」で、増やすとその枚数分だけ机を占有します。VRAMが厳しいときはBatch sizeは1に固定し、枚数が欲しければBatch count(回数)を増やすのが正解です。回数を増やしても机の広さは変わりません。

もうひとつ盲点なのがHires.fixとアップスケール。「1024で生成→2倍に拡大」の拡大側でVRAMを一気に食うので、ここで落ちるなら拡大倍率を下げるか、アップスケールを別工程(生成後にExtrasタブなどで拡大)に分けるだけで通ることが多いです。

拡張機能も机を占有する

ControlNetやIP-Adapterなどは、それぞれ追加のモデルをVRAMに載せます。複数同時に使って落ちるなら、一度に使う数を減らすか、使い終わった拡張のモデルをアンロードしてください。「拡張を1つ外したら通った」はよくある話です。

起動オプションのmedvramとlowvram

AUTOMATIC1111系のWebUIには、起動ファイル(webui-user.bat)の引数でVRAM消費を抑えるオプションがあります。有名なのが「–medvram」と「–lowvram」で、モデルの一部をVRAMからメインメモリに逃がして、必要なときだけ載せ替える仕組みです。

オプション 目安となるVRAM 効果と副作用
(指定なし) 12GB〜 最速。机に余裕がある人向け
–medvram 6〜8GB程度 消費を抑えつつ速度低下は小さめ。まず試す候補
–lowvram 4GB以下 ギリギリまで節約するが、生成時間はかなり伸びる
–xformers どれでも メモリ効率と速度を改善する定番。併用推奨

順番としては、まず–xformers、足りなければ–medvram、それでも落ちるなら–lowvram。lowvramは「動くけど遅い」の典型で、速度は体感で数割〜倍近く落ちる、というのが一般的に言われている目安です。あくまで一般的な目安なので、最終的にはご自身の環境で確かめてください。

なお、これらは主にA1111系(旧来のWebUI)の話で、次に説明するForge系やComfyUIは、そもそも自動でメモリ管理をしてくれます。WebUIの系統がよく分からない方は、Stable DiffusionのWebUI比較で違いを整理しています。

Forge NeoとComfyUIの省VRAM設定

私がメインで使っているForge系(Forge Neo)は、もともと「省VRAM・高速」を売りにしてA1111から派生したWebUIで、起動オプションで悩む場面がほとんどありません(出典:Forge Neo公式GitHub)。代わりに画面上部に「GPU Weights」というスライダーがあって、モデルの保管にVRAMをどれだけ割り当てるかを指定します。ここで大事なのは、最大にすると計算用の領域が0になって逆に落ちること。VRAMの合計から1〜2GBほど残す位置に設定するのがコツですね。VRAM不足で落ちるなら、まずこのスライダーを少し下げてみてください。

さらにForge系には「Never OOM」という切り札があります。VAEをタイル分割で処理し、モデルの読み込みを積極的にメインメモリへ逃がすことで、多少の無理なら落ちずに完走させてくれる機能です。ただしこれも「無限にVRAMが増える」わけではなく、代償として速度が落ちます。大きなサイズで一発だけ通したいときのお守り、くらいに考えると付き合いやすいですよ。

ComfyUIの場合は、起動時にVRAM量を見て自動でモデルの載せ方を切り替えてくれますし、「–lowvram」「–novram」といった起動引数も用意されています。動画生成で私が使っているWan 2.2でも、ComfyUIが自動でモデルを出し入れしてくれるおかげで、14Bクラスのモデルが12GBで動いています。

もうひとつ、UIの設定とは別に効くのがモデルファイルそのものを軽い版にすること。大型モデルには、精度を少し落として容量を半分近くにした「fp8」版や、さらに圧縮した量子化版(GGUF形式など)が配布されていることが多く、同じ机でも載る資料が減るイメージで、これだけで通るケースがあります。私がWan 2.2で使っているのもfp8版で、フル精度版では12GBにはまず載りません。画質への影響は用途によりますが、まず動かすことを優先するなら試す価値は高いですよ。モデルの入れ方や管理のコツは別の記事で改めてまとめる予定です。

コーボー◆コーボーのワンポイント

私の環境(RTX 4070 SUPER・12GB)で動画生成AI「Wan 2.2」を回したときの実測では、576×1024・5秒の動画でVRAM使用量が約10.3GB。ここまでは安定して回せるのに、720×1280にした途端にCUDA out of memoryで生成不可でした。12GBの「実用上限」がはっきり見えた瞬間ですね。設定でどうにかなるラインと、容量そのものの壁のラインは、こういう形で実際に体験すると分かります。

コーボー

省VRAM設定は「落ちない」を買う代わりに「速さ」を売る取引なんですよね。取引条件が悪くなってきたら、設定より容量を見直す番ですよ。

それでも足りないときの買い替え判断

ここからが第2段階です。設定を一通り試しても解決しない、あるいは解決はしたけど毎回遅くて創作が進まない。そうなったら、VRAM容量そのものを増やす選択肢を真剣に考えていいタイミングです。

GPU買い替えを判断するイメージ

買い替えラインの目安

私が考える線引きは、「やりたいことの標準的な設定が、省VRAM設定なしで動くかどうか」です。標準設定というのは、そのモデルが想定している解像度(SDXLなら1024×1024前後)で、Batch size 1、拡張なし、という素の状態のこと。これが省VRAM設定なしでは動かないなら、その用途に対して机が狭いということになります。

やりたいこと 一般的な目安 判断
SD1.5系(512〜768) 6〜8GB 8GBなら設定で十分粘れる
SDXL系(1024前後) 12GB〜現実的・16GB快適 8GBは窮屈。12GB以上を検討
FLUX系など大型モデル 16〜24GB 12GBでは量子化版頼み。16GB〜が安心
LoRA学習 16GB〜 12GBでもSDXLは工夫次第だが16GB推奨
動画生成(Wan系) 16GB〜+RAM 64GB 12GBは576×1024が上限(私の実測)

数値はあくまで一般的な目安で、モデルや設定によって前後します。最新の正確な情報は各モデル・ソフトの公式サイトでご確認ください。

もうひとつ、動画生成まで見据えるならメインメモリ(RAM)も見ておいてください。私はRAM 32GBの環境ですが、2026年8月に公開された動画モデルのひとつはRAM 64GB推奨で、VRAM以前にRAMで見送りました。VRAMだけ増やしても、次のボトルネックがRAMに移ることがあります。

VRAM別のGPU候補(執筆時点)

買い替えるなら、同じ世代なら「速さ」よりまず「VRAM容量」で選ぶのが鉄則です。VRAMが足りない状態は、どんなに速いGPUでも設定で速度を削ることになるので、容量が速さの前提条件なんですね。2026年8月の執筆時点で、AI画像生成向けに現実的な候補を整理するとこんな感じです。

GPU(執筆時点の候補) VRAM 価格帯の目安(執筆時点) 向いている人
RTX 5060 Ti 16GB 16GB おおむね8〜10万円前後 予算を抑えつつ16GBが欲しい人
RTX 5070 12GB 13万円台〜 速さ重視だが容量は据え置き。VRAM不足の解決策としては微妙
RTX 5070 Ti 16GB 18万円台〜20万円超 16GBを速く回したい人。私の換装先

価格は変動が大きいので、必ず購入時点の実売価格を確認してください。ポイントは、RTX 5070(12GB)はVRAM不足の解決策にはならないこと。速くはなりますが、机の広さは変わりません。「落ちる」問題を解決したいなら、5060 Ti 16GBか5070 Tiのように容量が増える選択肢に絞るのが正解です。同じ理由で、8GB版と16GB版がある製品は、AI用途なら迷わず16GB版ですね。

型番の枝番に注意

グラボは同じ製品名でも「O16G」「O12G」のようにOC(オーバークロック)版の枝番が付いた別モデルがあり、価格が1万円以上違うことがあります。私自身、GPU検討中にOC版を誤って買いかけました。AI生成ではOCの恩恵は小さいので、無印版で十分ですよ。

NVIDIAを選ぶ理由やGPUの選び方の基準はAIパソコンはNVIDIAが有利?で、PCごと買い替える場合の構成はAI画像生成向けパソコンの選び方でくわしく解説しています。特に電源容量やケースの大きさが足りない場合は、グラボ単体より本体ごとBTOで揃える方が結果的に安く済むこともあります。

コーボー

速いGPUより広いGPU、が私の結論ですね。容量が足りて初めて、速さが意味を持ちますよ。

VRAM不足のよくある質問

VRAM 8GBでもStable Diffusionは使えますか?

使えます。SD1.5系なら余裕がありますし、SDXL系も画像サイズを控えめにして–medvramなどを併用すれば動くことが多いです。ただ「動く」と「快適」は別で、SDXLで拡張やアップスケールを重ねると窮屈さを感じやすいですね。SDXL中心なら12GB以上をおすすめします。

メインメモリ(RAM)を増やせばVRAM不足は解決しますか?

直接の解決にはなりません。RAMはVRAMの代わりに使われることがありますが、速度が大きく落ちるため「落ちない代わりに遅い」状態になります。ただし、モデルの読み込みや動画生成ではRAM自体が不足することもあるので、32GB未満なら増設の価値はありますよ。

エラーが出た後に同じ設定でも動かなくなりました

一度メモリ不足で落ちると、確保されたメモリが解放されずに残ることがあります。私の環境でも、OOMの後はCUDAが不安定になりました。WebUIをいったん終了して起動し直すのが確実です。それでもダメならPCの再起動を試してください。

Forge NeoのGPU Weightsは何GBにすればいいですか?

VRAM合計から1〜2GBほど引いた値が目安です。最大にすると計算用の領域がなくなって逆に落ちるので、そこだけ注意してください。落ちるようなら少しずつ下げ、余裕があるなら少しずつ上げて、自分のモデルと画像サイズでちょうどいい位置を探すのがコツですね。

グラボを換えるとき、他のパーツも交換が必要ですか?

電源容量とケースの奥行きは確認してください。上位GPUは消費電力と本体サイズが大きくなるので、電源が足りなければ電源も交換になります。そこまで手を入れるなら、本体ごとBTOで買い替えた方がトータルで手間も費用も抑えられるケースがありますよ。

まとめ:粘る線と買い替える線を決めておく

最後に要点をまとめますね。

・CUDA out of memoryは「机(VRAM)に載りきらない」エラー。落ちないのに極端に遅いのはメインメモリへのはみ出し
・第1段階は無料の設定対策:画像サイズ・Batch size 1・拡張やアップスケールの整理・medvram・Forge NeoのGPU Weights
・省VRAM設定は「落ちない」を買って「速さ」を売る取引。毎回遅いなら粘りすぎのサイン
・買い替えラインは「やりたいことの標準設定が省VRAM設定なしで動くか」
・買い替えるなら速さよりVRAM容量。12GB→12GBは解決にならない。16GB以上を選ぶ
・動画生成まで見るならRAMも64GBを視野に

VRAM不足は誰もが一度は通る道で、設定で乗り切れる範囲も意外と広いです。ただ、粘り続けて創作のテンポが落ちてしまっては本末転倒。「ここまでは設定、ここからは容量」という自分の線を決めておくと、悩む時間がぐっと減りますよ。あなたの環境づくりの参考になればうれしいです。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

AIイラスト制作を実務で行う工房主。RTX 4070 SUPER搭載PCでローカル生成環境(Forge Neo・ComfyUI)を毎日運用しています。数値は「実測」か「目安」かを明記する実測主義で、AIパソコン・グラボ選びの情報を発信中。近くRTX 5070 Ti(16GB)へ換装予定で、比較実測も公開していきます。

目次