PC提案事例

社内で大規模言語モデルを活用するため、ローカル環境で運用できる生成AI用ワークステーションの構築を検討したい。使用するソフトウェアはOllama、LM Studio、Dify、Pythonを想定。

CPU はコア数を十分に確保できるモデルを選定し、メモリは最低 1TB、可能であれば 2〜4TB クラスまで拡張しようと考えている。
GPU は NVIDIA RTX Pro 6000 Blackwell を複数枚搭載可能な構成を前提とし、搭載可能な最大枚数で運用したい。
OS は Ubuntuとし、100V 電源環境で動作することを条件とする。
ストレージは可能な限り大容量の NVMe SSD を搭載可能な最大数まで搭載し、全体として高い処理性能と拡張性を確保したい。

予算 2,000 万円程度で構成を提案して欲しい。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

LLM推論・生成AI処理に最適化したCPU / メモリ構成

本構成では、生成AIやローカルLLMの運用に必要となる CPU コア数とメモリ帯域を重視しています。大規模モデルを効率的に処理するためには、GPU性能だけではなく、CPUの多コア性能と大量メモリへのアクセス性能が重要です。

そのため、最新世代のサーバー向けCPUを採用し、多コア処理能力と大容量メモリの両立を図っています。当初は1TBメモリ構成を想定していましたが、将来的なモデル拡張やRAGワークロードへの対応を見据え、今回は搭載可能な最大容量である4TBの構成でご提案しています。

RTX Pro 6000 Blackwell を採用した高密度 GPU 構成

お客様が複数の NVIDIA RTX Pro 6000 Blackwell を搭載したいと希望されていたため、4Uラックマウント筐体を採用し、最大枚数のGPUを安定して運用できるマザーボード構成を選定しました。

PRO 6000クラスのGPUを複数枚搭載する場合には、PCIeレーン数、発熱対策、電源容量などが大きな制約となります。本構成ではこれらの要件をすべて満たし、高密度なGPUサーバーとして安定したAI計算処理を実現します。

NVMeストレージの大容量化とRAID構成

可能な限り大容量のNVMe SSDを最大数搭載したい、という要望に対し、システム用SSDとは別に複数枚のNVMe SSDを搭載し、読み書き速度と冗長性を両立する構成をご提案しています。

この構成により、研究データやEmbeddingキャッシュを高速に扱え、RAG環境やDify・Ollamaなどのローカル推論環境で高いパフォーマンスを発揮できます。

電源環境 (100V希望 → 200V対応への変更)

当初は「100V環境で運用したい」とご相談いただきましたが、GPU多数搭載構成では100Vでは電源容量が不足するため、200V環境を整備される方針に変更となりました。

これにより、サーバー向け電源ユニットを採用できるようになり、マシン全体の安定性と将来拡張性を確保しています。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-24000660を見ての問い合わせ。
ローカルLLMと、Unreal EngineのMeta Human用のワークステーションを購入したい。
希望する構成は、以下の通り。
・GPU：RTX 5090を3枚～4枚
・メモリ：128GB～256GB
・ストレージ：2TB以上

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

GPUと電源について

ご希望の性能を安定して引き出すためには、筐体サイズや排熱設計が重要になります。
とくに今回ご検討の「GeForce RTX 5090 を3〜4枚」構成は、筐体・カードサイズ・排熱の関係で物理的な制約があります。

そこで、より安定して高い性能を発揮できる選択肢として、NVIDIA RTX PRO 6000 MaxQ (96GB) を中心にした構成をご提案しています。
RTX PRO 6000 Max-Q は単体でVRAM 96GBを搭載しており、RTX 5090 (VRAM 32GB) 3枚分に相当します。
1枚でも十分な性能を発揮できますが、お客さまより追加でご相談があったため、今回は同GPUを2枚搭載した場合の構成をご用意しています。

電源には1600Wユニットを採用しており、2枚構成でも十分な電力を供給可能です。
補足として、今回の構成は100V環境でご利用いただけますが、CPU負荷の高い処理が中心の場合は、より余裕をもって運用できる200V環境のご利用を推奨しています。

CPUとメモリについて

CPUには、大容量データの処理や並列演算に強いIntel Xeon W7-3555 (16コア) を選定しました。

メインメモリは512GBを搭載しており、GPUのVRAM合計に対して十分な余裕を確保しています。
一般的にワークステーションでは、メインメモリはGPUのVRAM合計容量より大きく確保することが推奨されます。
これにより、CPUとGPU間でのデータ転送が滞らず、安定した処理速度を維持できます。

テガラのオーダーメイドPC製作サービスは、導入時の用途に加え、将来的な研究規模の拡大を見据えたシステムの拡張にも対応しています。
各種ソフトウェア要件に応じた構成のご提案はもちろん、研究環境全体の構築に関するご相談も承っています。
お客様のニーズに合わせて最適なソリューションをご提供しますので、どうぞお気軽にお問い合わせください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

大規模言語モデル（LLM）のローカル検証を目的にした、高性能PCを導入したい。
VRAM容量は不問、可能な限り多くの高性能GPUを搭載した構成を希望する。
予算は250万〜500万円程度で、Ollamaの利用を想定。
GPUドライバー、CUDA ToolkitおよびcuDNNのプリインストールも依頼したい。
環境は、200V電源の使用が可能。

GPUの選定について

今回の用途では、GPU性能とVRAM容量の両立が重要です。
LLMによっては140GB程度のVRAMが必要となることもあるため、NVIDIA RTX PRO 6000 Max-Q（96GB）を2枚搭載する構成をご提案しました。
さらに、3枚目のRTX PRO 6000 Max-Qの増設にも対応できるよう、空きPCIeスロットを確保した設計です。

テグシスでは LLM における GPU 性能差をまとめた技術記事を公開しています。
前編では RTX 5090 / RTX 4090 / RTX 5000 Ada の実測比較を、続編では RTX PRO 6000 Max-Q を加えた検証 をご紹介しています。
詳細な検証結果は、下記をご覧ください。

メモリ構成と拡張性

LLMの推論では、VRAMを十分に確保することが前提となり、あわせてシステムメモリも同程度以上の大容量が求められます。
本構成では、256GB (64GB×4枚) のメモリを実装し、空きスロットには同容量 (64GB) のモジュールを増設可能です。

将来的に3枚目のGPUを増設する場合、VRAMの総量は 96GB × 3 = 288GB となります。
その際には、空きスロットを活用してメモリを増設することで、適切なシステムメモリを無理なく満たせます。
これにより、GPU増設後もボトルネックを避けて、安定したデータ処理を実現できます。

ソフトウェアの事前環境構築

GPUドライバー、CUDA Toolkit、cuDNNを適切なバージョンでプリインストールし、即時利用可能な環境で納品します。
PyTorchなどのフレームワークは、お客様によるセットアップを予定していますが、当社でも導入実績があり、必要に応じてご相談も承ります。

テガラのオーダーメイドPC製作サービスは、導入時の用途に加え、将来的な研究規模の拡大を見据えたシステムの拡張にも対応しています。
各種ソフトウェア要件に応じた構成のご提案はもちろん、研究環境全体の構築に関するご相談も承っています。
お客様のニーズに合わせて最適なソリューションをご提供しますので、どうぞお気軽にお問い合わせください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-10873を見ての問い合わせ。
elyza の Llama-3-ELYZA-JP-8B を用いて自然言語処理を行い、文章の要約を実行しているが、現在使用中のPCでは1件あたりの演算に5分以上かかってしまう。
処理時間を短縮するため、新たにPCの導入を検討しており、予算は税込146万円以内を希望している。
大学に提出する参考資料として、パーツ構成や見積額の詳細を知りたい。

参考：PC-10873 自然言語処理モデル用ワークステーション

お客様のご要望を踏まえ、計算時間の短縮を目的として、GPUおよびメモリ性能を重視した構成をご提案いたしました。

LLMを高速に動かすために重要なGPU

LLMの推論処理では、GPUのVRAM容量と演算性能が処理時間に大きく影響します。
特に、十分なVRAM容量があることで、より大規模なモデルをGPU単体で処理できるようになり、効率的な推論が可能となります。
一方、VRAMが不足するとメモリスワップが発生し、GPUとCPU間のデータ転送がボトルネックとなって、処理速度が著しく低下します。

例えば、Llama-3-ELYZA-JP-8BをINT8量子化で運用する場合、約17GBのVRAMが必要です。
そのため、最低でも24GB以上のVRAMを搭載することが推奨されています。

RTX 5090は、最新のCUDAおよびTensorコアを搭載したモデルで、同じVRAM容量を持つRTX 5000 Adaと比較して、約2倍の推論速度を記録した検証結果が報告されています。
この性能差を踏まえ、今回の構成ではRTX 5090を採用しました。

詳細な検証結果は、下記の技術記事をご覧ください。
GeForce RTX 4090との比較検証結果も記載されております。

高負荷のLLM推論にも安定して対応できる計算性能を備えているため、実運用環境では処理時間の大幅な短縮が期待できます。

LLM推論におけるメインメモリの重要性

LLMの安定稼働には、GPUのVRAMに加えて、ホスト側メモリの確保が不可欠です。
モデルのロード時にはVRAMを超える一時メモリが必要となる場面があるほか、入力テキストや生成結果の保持にもメインメモリが消費されます。

こうした運用条件を踏まえ、本設計では128GB（64GB × 2）のDDR5メモリを標準搭載しました。
さらに空きスロット (4スロット中2スロット未使用) を活用することで、最大256GBまでのメモリ増設が可能です。
将来的なモデルの大規模化やバッチ処理の拡張にも、柔軟に対応できる構成です。

バッチサイズや量子化設定など、運用条件に応じた最適な構成をご提案いたします。具体的なご用途があれば、ぜひご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-10880を見ての問い合わせ。
ローカル環境でLLMを活用するため、LLMの計算に必要なマシン購入を検討している。計算に必要なマシンスペックがわからないため、どのような仕様が必要になるか含めて知りたい。
また、その他必要な周辺機器、指定ソフトウェアのインストール可否を教えてほしい。
Difyと、METAのLlama 3.3 (70B) の使用を想定している。
NVIDIA Geforce RTX 4090 24GB でLlama 3.3を計算させたところVRAM使用率が99%となり不足していることを確認した。

参考：事例No.PC-10880 Geforce RTX4090 x4枚搭載マシン

事例No.PC-10880をベースに、現行世代のパーツで作成しました。
大規模言語モデル (LLM) の推論や学習をローカル環境で安定稼働させたい研究者・エンジニア向けの仕様です。

GPUとしてNVIDIA RTX 6000 Ada 48GBを2基搭載し、AI推論・学習処理を高速化します。
さらに、画面描画用としてRTX A400 4GBを別途採用しているため、計算処理と表示処理を分離し、安定運用が可能です。

また、ECC対応DDR5メモリを搭載しており、長時間の計算処理に対する高い信頼性があります。
PCI-E x16スロットを4基備えているため、GPUの追加にも柔軟に対応可能です。
電源には1500W PLATINUMを採用し、生成AIやLLM開発など安定運用が求められる環境でも安心して使用できます。

最新GPUを搭載し、ご相談いただいた各種ソフトウェアもインストール済みのため、購入後すぐに研究や開発業務に活用できます。

※本構成はソフトウェアのライセンス・セットアップ費用も含んだ価格です。
掲載されていない仕様や特殊要件についても柔軟に対応いたしますので、ぜひお気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

予算330万円 (税込) 未満で、機械学習を用いた画像識別や大規模言語モデルを使用した自然言語処理なども実施可能なマシンを希望する。
想定しているスペックは以下の通り。

OS：Ubuntu
メモリ：256GB以上
ストレージ：SSD 1TB以上、HDD 4TB以上
GPU：NVIDIA RTX 6000 Ada 世代 / 48GB以上

ご連絡いただいたご要望に合わせて構成を検討しました。
なお、ご提示の条件に対してご予算に余裕がありましたため、より快適な運用を見据えて、SSDおよびHDDの容量をそれぞれ2倍に拡張 (SSD 1TB→2TB、HDD 4TB→8TB) しました。

電源要件について

本構成は、将来的な拡張を想定していないGPU1基のみとなっております。
そのため、ご家庭や一般的なオフィス環境における「100Ｖ電源」で使用が可能です。
導入時以降にGPUの増設を検討される場合には、適切な電源ユニットや運用環境などを個別にご案内いたします。

同一型番のGPU「NVIDIA RTX 6000 Ada 48GB」を2基搭載した仕様の導入事例もございますので、下記ページをご参照ください。

参考：RTX 6000Ada x2枚搭載 AI開発用マシン

また、LLM要約タスクを用いて、GPU構成ごとの処理性能を比較検証した結果も公開しております。
ぜひ、構成検討の参考にご覧ください。

参考：もし、LLMに太宰治の『走れメロス』を要約させたらGPU構成ごとのパフォーマンスはどうなるのか？

GPUの増設や複数基の搭載に伴って構成全体の消費電力が増加する場合、200V電源環境でのご利用が必要となるケースもございます。

総消費電力の目安として、1600Wの電源ユニットをご利用の場合、200V環境では最大出力の1600W、100V環境ではおよそ1200Wまで対応可能です。

ご提示いただいたご希望に合わせて柔軟なマシンをご提案いたします。掲載内容とは異なる条件でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

生物学向け大規模言語モデルの学習用マシンの導入を検討している。
ProteinBERT、 ChemBERTa、 HyenaDNAといった生物学で用いられる大規模言語モデルを事前学習から実行したいと考えている。

ProteinBERTはNvidia Quadro RTX 5000、ChemBERTaはNVIDIA Tesla T4、HyenaDNAはNVIDIA A100をそれぞれ学習に使用したとの情報があるため、GPUの性能を重視したい。

予算300万円以内で、上記の用途における計算処理を最も高速化できる構成を提案してほしい。

また、設置場所の制限があるため、筐体サイズはミドルタワー程度で、100V環境で使用可能な構成が望ましい。

希望する条件は以下の通り。

お客さまご希望の条件に沿った構成をご提案しました。
ご予算・利用環境を踏まえたうえで、GPU性能を重視した構成です。

GPUの選定について

GPUはNVIDIA RTX A6000 x2枚を搭載しています。
ProteinBERT開発元の公式サイトによると、学習済みモデルの構築にはNVIDIA RTX5000を用いて1か月ほど要したと記載されています。
A6000はRTX5000より世代が新しく、ラインナップ上でも上位モデルにあたる製品のため、RTX5000よりも高い処理性能が期待できます。

例として挙げていただいたNVIDIA Tesla T4は、推論向けとして利用されることが多い製品です。そのため、本構成ではNVIDIA TeslaT4よりも単体性能が高いA6000を採用しています。

NVIDIA A100とRTX A6000の違い

また、NVIDIA A100は、A6000とは異なり、GPGPU専用カードです。
高いfp64性能を持ち科学計算に適した製品ですが、今回のようなDeepLearning用途ではfp64性能が利用されることはほとんどありません。
あわせて、価格に関してもA6000と比較して非常に高額で、かつ専用の筐体でなければ利用できないことから、今回の利用条件や用途におけるマッチングが高くないと判断しました。

ストレージに関しては、ProteinBERTの開発元よりユーザー自らモデルの学習を行う場合は1TB以上のストレージ容量を確保することが推奨されているため、2TBのシステムディスク、4TBのデータディスクを搭載しています。
なお、学習中に頻繁なデータアクセスが発生することを想定して、ストレージはすべてSSDとしています。

OSはWindows 11を選択しています。
ご使用予定の言語モデルは基本的にはPythonパッケージで提供されているもののため、Pythonを使用可能なOSであれば、ご希望に応じて変更も可能です。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
いただいた条件に合わせて柔軟にマシンをご提案いたしますので、掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします