PC提案事例

大規模言語モデル（LLM）のローカル検証を目的にした、高性能PCを導入したい。
VRAM容量は不問、可能な限り多くの高性能GPUを搭載した構成を希望する。
予算は250万〜500万円程度で、Ollamaの利用を想定。
GPUドライバー、CUDA ToolkitおよびcuDNNのプリインストールも依頼したい。
環境は、200V電源の使用が可能。

GPUの選定について

今回の用途では、GPU性能とVRAM容量の両立が重要です。
LLMによっては140GB程度のVRAMが必要となることもあるため、NVIDIA RTX PRO 6000 Max-Q（96GB）を2枚搭載する構成をご提案しました。
さらに、3枚目のRTX PRO 6000 Max-Qの増設にも対応できるよう、空きPCIeスロットを確保した設計です。

テグシスでは LLM における GPU 性能差をまとめた技術記事を公開しています。
前編では RTX 5090 / RTX 4090 / RTX 5000 Ada の実測比較を、続編では RTX PRO 6000 Max-Q を加えた検証 をご紹介しています。
詳細な検証結果は、下記をご覧ください。

メモリ構成と拡張性

LLMの推論では、VRAMを十分に確保することが前提となり、あわせてシステムメモリも同程度以上の大容量が求められます。
本構成では、256GB (64GB×4枚) のメモリを実装し、空きスロットには同容量 (64GB) のモジュールを増設可能です。

将来的に3枚目のGPUを増設する場合、VRAMの総量は 96GB × 3 = 288GB となります。
その際には、空きスロットを活用してメモリを増設することで、適切なシステムメモリを無理なく満たせます。
これにより、GPU増設後もボトルネックを避けて、安定したデータ処理を実現できます。

ソフトウェアの事前環境構築

GPUドライバー、CUDA Toolkit、cuDNNを適切なバージョンでプリインストールし、即時利用可能な環境で納品します。
PyTorchなどのフレームワークは、お客様によるセットアップを予定していますが、当社でも導入実績があり、必要に応じてご相談も承ります。

テガラのオーダーメイドPC製作サービスは、導入時の用途に加え、将来的な研究規模の拡大を見据えたシステムの拡張にも対応しています。
各種ソフトウェア要件に応じた構成のご提案はもちろん、研究環境全体の構築に関するご相談も承っています。
お客様のニーズに合わせて最適なソリューションをご提供しますので、どうぞお気軽にお問い合わせください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-10873を見ての問い合わせ。
elyza の Llama-3-ELYZA-JP-8B を用いて自然言語処理を行い、文章の要約を実行しているが、現在使用中のPCでは1件あたりの演算に5分以上かかってしまう。
処理時間を短縮するため、新たにPCの導入を検討しており、予算は税込146万円以内を希望している。
大学に提出する参考資料として、パーツ構成や見積額の詳細を知りたい。

参考：PC-10873 自然言語処理モデル用ワークステーション

お客様のご要望を踏まえ、計算時間の短縮を目的として、GPUおよびメモリ性能を重視した構成をご提案いたしました。

LLMを高速に動かすために重要なGPU

LLMの推論処理では、GPUのVRAM容量と演算性能が処理時間に大きく影響します。
特に、十分なVRAM容量があることで、より大規模なモデルをGPU単体で処理できるようになり、効率的な推論が可能となります。
一方、VRAMが不足するとメモリスワップが発生し、GPUとCPU間のデータ転送がボトルネックとなって、処理速度が著しく低下します。

例えば、Llama-3-ELYZA-JP-8BをINT8量子化で運用する場合、約17GBのVRAMが必要です。
そのため、最低でも24GB以上のVRAMを搭載することが推奨されています。

RTX 5090は、最新のCUDAおよびTensorコアを搭載したモデルで、同じVRAM容量を持つRTX 5000 Adaと比較して、約2倍の推論速度を記録した検証結果が報告されています。
この性能差を踏まえ、今回の構成ではRTX 5090を採用しました。

詳細な検証結果は、下記の技術記事をご覧ください。
GeForce RTX 4090との比較検証結果も記載されております。

高負荷のLLM推論にも安定して対応できる計算性能を備えているため、実運用環境では処理時間の大幅な短縮が期待できます。

LLM推論におけるメインメモリの重要性

LLMの安定稼働には、GPUのVRAMに加えて、ホスト側メモリの確保が不可欠です。
モデルのロード時にはVRAMを超える一時メモリが必要となる場面があるほか、入力テキストや生成結果の保持にもメインメモリが消費されます。

こうした運用条件を踏まえ、本設計では128GB（64GB × 2）のDDR5メモリを標準搭載しました。
さらに空きスロット (4スロット中2スロット未使用) を活用することで、最大256GBまでのメモリ増設が可能です。
将来的なモデルの大規模化やバッチ処理の拡張にも、柔軟に対応できる構成です。

バッチサイズや量子化設定など、運用条件に応じた最適な構成をご提案いたします。具体的なご用途があれば、ぜひご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-10880を見ての問い合わせ。
ローカル環境でLLMを活用するため、LLMの計算に必要なマシン購入を検討している。計算に必要なマシンスペックがわからないため、どのような仕様が必要になるか含めて知りたい。
また、その他必要な周辺機器、指定ソフトウェアのインストール可否を教えてほしい。
Difyと、METAのLlama 3.3 (70B) の使用を想定している。
NVIDIA Geforce RTX 4090 24GB でLlama 3.3を計算させたところVRAM使用率が99%となり不足していることを確認した。

参考：事例No.PC-10880 Geforce RTX4090 x4枚搭載マシン

事例No.PC-10880をベースに、現行世代のパーツで作成しました。
大規模言語モデル (LLM) の推論や学習をローカル環境で安定稼働させたい研究者・エンジニア向けの仕様です。

GPUとしてNVIDIA RTX 6000 Ada 48GBを2基搭載し、AI推論・学習処理を高速化します。
さらに、画面描画用としてRTX A400 4GBを別途採用しているため、計算処理と表示処理を分離し、安定運用が可能です。

また、ECC対応DDR5メモリを搭載しており、長時間の計算処理に対する高い信頼性があります。
PCI-E x16スロットを4基備えているため、GPUの追加にも柔軟に対応可能です。
電源には1500W PLATINUMを採用し、生成AIやLLM開発など安定運用が求められる環境でも安心して使用できます。

最新GPUを搭載し、ご相談いただいた各種ソフトウェアもインストール済みのため、購入後すぐに研究や開発業務に活用できます。

※本構成はソフトウェアのライセンス・セットアップ費用も含んだ価格です。
掲載されていない仕様や特殊要件についても柔軟に対応いたしますので、ぜひお気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

予算330万円 (税込) 未満で、機械学習を用いた画像識別や大規模言語モデルを使用した自然言語処理なども実施可能なマシンを希望する。
想定しているスペックは以下の通り。

OS：Ubuntu
メモリ：256GB以上
ストレージ：SSD 1TB以上、HDD 4TB以上
GPU：NVIDIA RTX 6000 Ada 世代 / 48GB以上

ご連絡いただいたご要望に合わせて構成を検討しました。
なお、ご提示の条件に対してご予算に余裕がありましたため、より快適な運用を見据えて、SSDおよびHDDの容量をそれぞれ2倍に拡張 (SSD 1TB→2TB、HDD 4TB→8TB) しました。

電源要件について

本構成は、将来的な拡張を想定していないGPU1基のみとなっております。
そのため、ご家庭や一般的なオフィス環境における「100Ｖ電源」で使用が可能です。
導入時以降にGPUの増設を検討される場合には、適切な電源ユニットや運用環境などを個別にご案内いたします。

同一型番のGPU「NVIDIA RTX 6000 Ada 48GB」を2基搭載した仕様の導入事例もございますので、下記ページをご参照ください。

参考：RTX 6000Ada x2枚搭載 AI開発用マシン

また、LLM要約タスクを用いて、GPU構成ごとの処理性能を比較検証した結果も公開しております。
ぜひ、構成検討の参考にご覧ください。

参考：もし、LLMに太宰治の『走れメロス』を要約させたらGPU構成ごとのパフォーマンスはどうなるのか？

GPUの増設や複数基の搭載に伴って構成全体の消費電力が増加する場合、200V電源環境でのご利用が必要となるケースもございます。

総消費電力の目安として、1600Wの電源ユニットをご利用の場合、200V環境では最大出力の1600W、100V環境ではおよそ1200Wまで対応可能です。

ご提示いただいたご希望に合わせて柔軟なマシンをご提案いたします。掲載内容とは異なる条件でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

生物学向け大規模言語モデルの学習用マシンの導入を検討している。
ProteinBERT、 ChemBERTa、 HyenaDNAといった生物学で用いられる大規模言語モデルを事前学習から実行したいと考えている。

ProteinBERTはNvidia Quadro RTX 5000、ChemBERTaはNVIDIA Tesla T4、HyenaDNAはNVIDIA A100をそれぞれ学習に使用したとの情報があるため、GPUの性能を重視したい。

予算300万円以内で、上記の用途における計算処理を最も高速化できる構成を提案してほしい。

また、設置場所の制限があるため、筐体サイズはミドルタワー程度で、100V環境で使用可能な構成が望ましい。

希望する条件は以下の通り。

お客さまご希望の条件に沿った構成をご提案しました。
ご予算・利用環境を踏まえたうえで、GPU性能を重視した構成です。

GPUの選定について

GPUはNVIDIA RTX A6000 x2枚を搭載しています。
ProteinBERT開発元の公式サイトによると、学習済みモデルの構築にはNVIDIA RTX5000を用いて1か月ほど要したと記載されています。
A6000はRTX5000より世代が新しく、ラインナップ上でも上位モデルにあたる製品のため、RTX5000よりも高い処理性能が期待できます。

例として挙げていただいたNVIDIA Tesla T4は、推論向けとして利用されることが多い製品です。そのため、本構成ではNVIDIA TeslaT4よりも単体性能が高いA6000を採用しています。

NVIDIA A100とRTX A6000の違い

また、NVIDIA A100は、A6000とは異なり、GPGPU専用カードです。
高いfp64性能を持ち科学計算に適した製品ですが、今回のようなDeepLearning用途ではfp64性能が利用されることはほとんどありません。
あわせて、価格に関してもA6000と比較して非常に高額で、かつ専用の筐体でなければ利用できないことから、今回の利用条件や用途におけるマッチングが高くないと判断しました。

ストレージに関しては、ProteinBERTの開発元よりユーザー自らモデルの学習を行う場合は1TB以上のストレージ容量を確保することが推奨されているため、2TBのシステムディスク、4TBのデータディスクを搭載しています。
なお、学習中に頻繁なデータアクセスが発生することを想定して、ストレージはすべてSSDとしています。

OSはWindows 11を選択しています。
ご使用予定の言語モデルは基本的にはPythonパッケージで提供されているもののため、Pythonを使用可能なOSであれば、ご希望に応じて変更も可能です。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
いただいた条件に合わせて柔軟にマシンをご提案いたしますので、掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

医用画像を利用したDeepLearningを行うためのマシンを検討したい。予算60万円の範囲内で可能な構成を提案して欲しい。検討における条件は以下の通り。

・使用するソフトウェア：TensorFlow、Keras、Pytorch、CUDA
・OS：インストールなし (Ubuntu 22.04予定)

GPUでの学習を想定しているが、提案の構成がGPUを複数搭載できるか教えて欲しい。
また、GPUメモリの容量とGPUの搭載数のどちらを優先するべきかについても知りたい。

第13世代Core i7を搭載した構成をご提案しました。

ビデオカードにはGeforce RTX4080を選択しています。
1ランク上のRTX4090とした場合、ご予算オーバーになってしまうため、コストを優先した選択です。
RTX4080も前世代のRTX3090とほぼ同等のCUDAコア数を搭載しているため、単純な処理性能の面ではハイエンドモデルに位置付けられます。

なお、ビデオカードの複数搭載につきましては、ご予算内での対応が難しいことから本件では考慮していません。
本事例の構成はビデオカード x1枚での運用を前提とし、カード増設非対応の構成となっております。
もし、ビデオカード x2枚を搭載可能な構成をご希望の場合は、ベース構成をワークステーション向けに最適化したものへと変更してご提案しますのでお知らせください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

検索キーワード
医用画像DeepLearning,TensorFlow,Keras,Pytorch,CUDA Toolkit,ディープラーニングマシン,NVIDIA Geforce RTX4080,機械学習ソフトウェア,インストールなしOS,GPUメモリ容量

ビッグデータ処理やMCMC処理、Pythonによる自然言語処理 (PyTorch) 、地理情報システムによるネットワーク分析などが可能なワークステーションを導入したい。
高精度なGPUに加えて、ビッグデータ処理にも対応できるCPUが必要だと考えている。
想定しているマシンの規模は以下の通り。

Xeon W-3400シリーズの24コアモデルを搭載した構成です。
NVIDIA RTX A6000を2台搭載し、NVLink Bridgeも含めています。

メモリは、初期の128GBから将来的に1TBへ拡張する想定ですが、128GB搭載時のメモリはすべて取り外す必要があります。そのため、初期出荷時点のメモリモジュール構成はメモリ拡張を考慮せず、すべてのメモリチャネルを使い切ることを優先しています。

ストレージは暫定的な容量としています。
ビッグデータ処理での利用において、マシン本体側に必要なストレージ容量の目安をご連絡いただければ、それに合わせて変更いたします。
また、ArcGISはキャッシュ領域にストレージを利用しますので、OSやソフトウェアがインストールされるSSDはより高速なNVMe対応製品としています。

設置場所がオフィス内であることに留意し、静音性の高い筐体を採用していますが、GPGPUでビデオカードをフル稼働させた場合には、ある程度の大きさの駆動音が発生いたします。さらなる冷却性・静音性を希望される場合、オプションで静音ラックのご用意もございますので、ご相談ください。

稼働音対策をご希望のお客様には、エスアイ社製の静音ラックと合わせたご提案を承っております。 静音性を重視したマシン導入をお考えの際には、気兼ねなくご相談ください。 エスアイ社製 静音ラックの特長 [1]ユーザーの環境とマシンに合わせた専用設計のラックを提供 [2]静音性と安全放熱を高い次元で両立 [3]音響の専門技術を軸としたメーカーなので、静音性の技術力が高い [4]マシン適合の技術サービスが付帯し、安全運用を約束

なお、本事例の構成は、金額にはとらわれず性能を優先した構成です。
メモリチャネル数が8と高性能ですので、コストダウンで最初に見直すポイントはCPUやメモリ周りになると考えられます。 ご予算に応じたプラン提案につきましても、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

事例No.PC-10880を見ての問い合わせ。
以下の条件でDeep Learningの実験用マシンを検討したいので、構成を提案して欲しい。

・CPU：Core i9
・メモリ：128GB
・ストレージ1：1TB SSD
・ストレージ2：2TB HDD
・GPU：RTX 4090 x2台
・OS：Ubuntu 20.04
・使用するソフトウェア：R、Rstudio、Python、BayoLinkS
・予算：100万円以内 難しい場合でも、どの程度の金額になるか知りたい
・その他：PyTorch 1.9 または2.0を使用

参考：PC-10880 Geforce RTX4090 x4枚搭載マシン

ご参照の事例をご予算に合わせてカスタムした構成です。

本事例の構成はPC-10880とは異なり、電源ユニット1台で動作しますが、100V給電ではフル稼働時に電源容量に余裕がなくなるため、200V給電での利用を推奨します。
また、RTX4090を2台搭載するためには、PCI-E x16スロットを2本用意する必要があります。CPUをCore i9とする場合、PCI-Eレーン数を必要分確保することが難しいため、対応可能なXeon仕様としています。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

検索キーワード
AIサービス用マシン,Deep Learning実験,Core i9,128GBメモリ,1TB SSD,2TB HDD,RTX 4090,Ubuntu 20.04,R、Rstudio、Python、BayoLinkS,PyTorch 1.9

電話用の音声認識システム開発を行うため、OpenAIの「Whisper」を利用するPCを検討している。
検討においては、以下の条件を想定している。

・CPU：Xeon W-2225
・メモリ：64GB REG ECC
・ストレージ：SSD 2TB M.2
・ビデオ：NVIDIA RTX A6000
・OS：Ubuntu 22.04
・その他：将来の増設に対応できるGPUと電源を希望

上記に近いPC構成を提案して欲しい。

ご連絡いただいた条件を踏まえて構成を検討しました。

Whisper利用時のスペック選定

「Whisper」はGPUを利用するので、GPUの処理能力を重視した選定が良いかと存じます。
搭載するGPUは、お客様よりご希望いただいたA6000もしくはRTX6000 Adaを用いた構成が理想です。現状ではRTX6000 Adaのコストがかなり大きいため、A6000を採用した構成としています。ただし、A6000自体の供給もそれほど長くないと考えられるので、将来のGPU増設が1年以上先である場合には、RTX6000 Adaがベストです。

なお、GPU x1枚構成のままで将来の増設を考慮しない場合には、CPUをCore-i系にすることでコストを抑えることができます。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

手持ちのGPU x2台 (RTX A6000 2台またはA100 2台)を使用するためのマシンを購入したい。
希望する条件は以下の通り。

・100Vの電源環境で動作する構成を希望
・消費電力はできるだけ小さくしたい
・居室で使用するため、GPU使用時以外は静音が望ましい。ただし、GPU使用時の稼働音は許容する
・用途はBERTのFine-tuningおよびNVIDIA Clara Parabricks
・予算は150万円

予算は年度を超えても大丈夫だが、できるだけ早く入手できると嬉しい。

ご要望に合わせて構成を検討しました。
消費電力を意識して、Ryzen Threadripper構成としています。

搭載するGPUはRTX A6000を想定しています。
A100はGPU本体に冷却FANがないため、GPU冷却機構を持つGPGPUサーバー用の筐体が必須となり、ご予算内での実現は難しいとお考えください。

100V環境で利用できる電源容量

電源ユニットは1600W対応品としていますが、100V環境での利用では1300W程度までが利用可能です。 入力が最大100V/15Aの交流に対して直流への変換時にロスがあり、80+の最大変換効率であるTITANIUMであっても、100%動作時の変換効率は90%です。100V/15A時は1500W x0.9として1350Wが理論上の上限となります。

上記を前提に、CPU側は極力消費電力が少ないことが望ましいと考えられるため、1CPU構成のThreadripper構成をご提案しました。 また、本構成は1CPU構成のため物理的に筐体内部スペースの余裕がありますので、200V環境で利用する場合にはRTX A6000を合計3台利用することができます。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。

稼働音対策をご希望のお客様には、エスアイ社製の静音ラックと合わせたご提案も承っております。 静音性を重視したマシン導入をお考えの際には、気兼ねなくご相談ください。 エスアイ社製 静音ラックの特長 [1]ユーザーの環境とマシンに合わせた専用設計のラックを提供 [2]静音性と安全放熱を高い次元で両立 [3]音響の専門技術を軸としたメーカーなので、静音性の技術力が高い [4]マシン適合の技術サービスが付帯し、安全運用を約束

この事例に近い条件で無料で見積もり相談する

通常24時間以内に担当者からご連絡いたします

検索キーワード
自然言語処理モデル用ワークステーション,BERT Fine-tuning,NVIDIA Clara Parabricks,GPU x2台,RTX A6000,A100,100V電源環境,消費電力,静音,予算150万円