Ollamaを複数ユーザーで使うGPUサーバーは、GPUの種類や搭載数をどう選べばよいか迷いますよね。
GPUメモリの記載が1基あたりか複数GPUの合計かを確認すると、必要な構成を比べやすくなります。
今回は、GPUカードやGPU搭載サーバーなど、構成の異なる6商品を早見表にまとめます。
- おすすめ商品の早見表
- NVIDIA GeForce RTX 3080 20GB GDDR6X
- NVIDIA RTX 4000 Ada（900-5G190-2570-000）
- GIGABYTE AORUS RTX 5060 Ti AI BOX
- Puget Systems Quad GPU Large Language Model Server
- Computer Modules Single GPU 1U edge inference server
- CTOServers NVIDIA Certified GPU SERVER 8x NVIDIA L40S
- 用途・構成から選ぶGPUサーバー
- RTX 4000 AdaはAV1配信にも対応
おすすめ商品の早見表
| 商品名 | GPUモデル | GPU搭載数 | VRAM記載 | 参考価格 |
|---|---|---|---|---|
 NVIDIA GeForce RTX 3080 20GB GDDR6X | GeForce RTX 3080 | — | 20GB | 147,765円（2026-11-03時点） |
 NVIDIA RTX 4000 Ada（900-5G190-2570-000） | NVIDIA RTX 4000 Ada Generation | — | 20GB | 259,980円（2026-11-03時点） |
 GIGABYTE AORUS RTX 5060 Ti AI BOX | GeForce RTX 5060 Ti | — | 16GB | 159,134円（2026-11-03時点） |
| Puget Systems Quad GPU Large Language Model Server | NVIDIA RTX PRO Blackwell／L40S | 最大4基 | 最大384GB（4基合計） | — |
| Computer Modules Single GPU 1U edge inference server | NVIDIA L40S／RTX PRO 4500 Blackwell | 1基 | L40S：48GB／RTX PRO 4500：32GB | — |
| CTOServers NVIDIA Certified GPU SERVER 8x NVIDIA L40S | NVIDIA L40S | 8基 | 48GB（GPU 1基あたり） | — |
NVIDIA GeForce RTX 3080 20GB GDDR6X
ローカル環境でQwen、GLM、MiniMaxなどを扱いたい人には、NVIDIA GeForce RTX 3080 20GB GDDR6Xがおすすめです。商品情報ではこれらのモデルをサポートするとされ、GPUは20GBのGDDR6Xメモリを搭載したデュアル幅のサーバー向けカードとして掲載されています。
NVIDIA RTX 4000 Ada（900-5G190-2570-000）
AI推論向けのGPUを選びたい人には、NVIDIA RTX 4000 Adaがおすすめです。第4世代TensorコアはFP8精度データの高速化に対応しており、20GBのGDDR6メモリを搭載しています。GPUの最大消費電力は130Wです。サーバー全体とは別に、GPU分の電力を検討するときの仕様として見られます。
GIGABYTE AORUS RTX 5060 Ti AI BOX
PCに組み合わせる外付けGPUを探している人には、GIGABYTE AORUS RTX 5060 Ti AI BOXがおすすめです。GeForce RTX 5060 Tiと16GBのGDDR7メモリを搭載したボックスです。接続先は、Thunderboltポートを備え、外付けGPUに対応するノートPCまたはデスクトップPCです。OSの要件はWindows 11 version 25H2以降です。Thunderbolt 5への対応は、PCメーカーへの確認が条件です。
Puget Systems Quad GPU Large Language Model Server
70Bパラメータのモデルをfp16で推論したい人には、Puget Systems Quad GPU Large Language Model Serverがおすすめです。AI大規模言語モデルの推論やファインチューニング向けで、より小さいモデルのファインチューニングにも使えます。NVIDIA RTX PRO BlackwellまたはL40S GPUを最大4基搭載でき、4基にまたがるVRAMは最大384GBです。
電源接続は2系統を別々の回路から取る必要があります。また、電源ユニットの冗長化には240V電源が必要です。
Computer Modules Single GPU 1U edge inference server
ローカル言語モデルを使ったアシスタントや文書処理向けに、短奥行きの1Uサーバーを探している人には、Computer Modules Single GPU 1U edge inference serverがおすすめです。GPUはNVIDIA L40S（48GB）またはRTX PRO 4500 Blackwell（32GB）のいずれか1基に対応し、いずれもダブル幅PCIeです。
電力の計画値はノードあたり約0.8kWです。掲載値はシステムクラスを示すもので、正確な構成・重量・消費電力は見積もりで確認されます。
CTOServers NVIDIA Certified GPU SERVER 8x NVIDIA L40S
UbuntuまたはRocky LinuxがプリインストールされたGPUサーバーを選びたい人には、CTOServers NVIDIA L40S GPU SERVERがおすすめです。NVIDIA L40S 48GB GPUが8基搭載されています。
用途・構成から選ぶGPUサーバー
- ローカルでQwen、GLM、MiniMaxなどを扱いたい人
- FP8精度のAI推論を検討している人
- Thunderboltポートと外付けGPUに対応するPCで使いたい人
- 70Bパラメータのモデルをfp16で推論したい人
- アシスタントや文書処理向けのローカル言語モデルを短奥行きの1Uサーバーで扱いたい人
- UbuntuまたはRocky Linuxがプリインストールされた、L40S GPUを8基搭載するサーバーを選びたい人
RTX 4000 AdaはAV1配信にも対応
動画配信も用途に含めてGPUを選ぶなら、RTX 4000 AdaのAV1エンコードも判断材料になります。H.264より40%効率的で、1080p配信時と同じビットレート・品質のまま、解像度を1440pに上げられます。
Amazon の PC をスコア化してみた
Amazonにある8〜14インチの小型WindowsタブレットやノートPCを、スペック別にスコア化して比較・ランキング。
