PR：この記事にはアフィリエイトリンクが含まれます。
自宅のPCでローカルLLMを動かすとき、GPUのVRAMはモデルの重みや会話履歴、推論中の作業領域を支えます。容量に余裕があるほど使えるモデルや設定の幅が広がりますよね。
今回は32GBのGeForce RTX 5090とRadeon AI PRO R9700、48GBのRTX PRO 5000 Blackwellを取り上げます。VRAM容量のほか、対応環境やカード寸法にも違いがあります。
価格は販売店や在庫、時期によって変わります。購入時点の価格を仕様とあわせて確認してください。
早見表
| 製品 | VRAM・帯域幅 | ボード電力・推奨電源 | 大きさ・特徴 |
|---|---|---|---|
 ROG Astral GeForce RTX 5090 32GB GDDR7 OC Edition | 32GB・約1,792 GB/s | 575W※・1,000W | 357.6mm・3.8スロット、CUDA対応 |
| ASUS Turbo Radeon AI PRO R9700 32GB | 32GB・640 GB/s | 300W・750W | 266.7mm・2スロット、ROCm対応 |
 RTX PRO 5000 Blackwell 48GB | 48GB・1,344 GB/s | 300W | 約266.7mm・2スロット、ECC対応 |
※RTX 5090の575WはNVIDIAのリファレンス仕様です。搭載カードの消費電力はメーカーによって異なります。帯域幅や消費電力から、実際の生成速度を直接読み取ることはできません。
32GBの2製品では、RTX 5090がGDDR7と大きな帯域幅、R9700がROCm対応を特徴とします。RTX PRO 5000は48GBのVRAMとECC対応を備えています。
カードの寸法にも差があります。RTX 5090は3.8スロット、残る2製品は2スロット設計なので、PCケースに収まるかも確認しましょう。
RTX 5090 OC
ROG Astral GeForce RTX 5090は32GBのGDDR7を搭載し、メモリ帯域幅は約1,792 GB/sです。3製品のなかで最も帯域幅が大きく、CUDAを使うローカル推論で性能を重視する人におすすめします。
ASUS公称のAI演算性能は3,352 TOPS、CUDAコアは21,760基です。TOPSは演算性能の指標で、LLMのトークン生成速度へそのまま換算できません。生成速度はモデルや量子化、推論ソフトによっても変わります。
カードは長さ357.6mmで、3.8スロットを占有します。ケースにはカード長と拡張スロット周辺の空間が必要です。電源コネクタは16ピン×1で、推奨電源容量は1,000Wになります。
32GB以内のモデルをCUDA環境で動かし、生成性能を優先する人にはRTX 5090が本命です。大きなカードと電源容量に対応できるPCなら、第一候補にできます。
Radeon R9700
ASUS Turbo Radeon AI PRO R9700は32GBのGDDR6と4,096基のストリームプロセッサを搭載します。帯域幅は640 GB/s。AMDのROCm環境で推論したい人に合う製品です。
AMDが公開するPyTorchセットアップ手順には、R9700が記載されています。PyTorchをAMD環境で使う人には検討しやすいですね。利用する推論アプリや拡張機能のROCm対応は、個別に確認しましょう。
ボード電力は300W、推奨電源容量は750Wです。カードは266.7 × 111.1 × 40mmの2スロット設計で、RTX 5090より収めやすいサイズ感でしょう。
PCIe 5.0に対応し、電源コネクタは16ピン×1です。必要なアプリがROCmに対応し、32GBを確保したいならR9700をおすすめします。
RTX PRO 5000
NVIDIA RTX PRO 5000 Blackwellは48GBのGDDR7とECC対応メモリを搭載し、帯域幅は1,344 GB/sです。CUDA 12.8にも対応するワークステーション向けGPUで、32GBを超える容量が必要な人におすすめします。
ボード消費電力は300W。カードは長さ約266.7mm、高さ約111.8mmのデュアルスロット設計です。アクティブ冷却を採用し、接続はPCIe 5.0 x16、電源コネクタはPCIe CEM5の16ピン×1です。
帯域幅はRTX 5090より小さいものの、VRAMは48GBあります。この容量なら32GBを超えるモデルをGPUに載せやすくなります。生成速度は帯域幅のほか、モデルや推論ソフトによっても変わります。
70BクラスなどのモデルをCUDA環境で試す人や、ECCと300Wの電力設計を重視する人にはRTX PRO 5000がおすすめです。32GB以内のモデルが中心なら、48GBを優先する必要はありません。
結論
32GB以内のモデルを使い、CUDA環境で性能を重視するならROG Astral GeForce RTX 5090が本命です。約1,792 GB/sの帯域幅は魅力ですが、推奨電源容量1,000Wと大型カードに対応できるPCが必要になります。
PyTorchとROCmを使う環境が整っていて、32GBを確保したい人にはRadeon AI PRO R9700をおすすめします。消費電力は300Wで、2スロット設計です。利用するアプリのROCm対応も確認してください。
70Bクラスの量子化モデルや長めのコンテキストを重視するなら、48GBのRTX PRO 5000 Blackwellが候補です。ECC対応と300Wの電力設計を備え、CUDAワークステーションで容量を優先する人に合います。
32GBで足りるなら、CUDA環境にはRTX 5090、ROCm環境にはR9700。48GBが必要ならRTX PRO 5000を選ぶと、使うソフトと必要な容量に沿って判断できます。
Amazon の PC をスコア化してみた
Amazonにある8〜14インチの小型WindowsタブレットやノートPCを、スペック別にスコア化して比較・ランキング。
