PC提案事例

地震動に関する研究を行うためのマシンが欲しい。
大量のデータ学習を高速で実施するため、メモリやGPUを充実させたい。
Pythonで自社開発したコードを用いた処理を行う予定だが、SonyのNeural Network Consoleも補助的な役割で使用する。

マシン導入における条件は以下の通り。

PCに詳しくないため、メモリやGPUの容量やバランスなどに不安がある。
曖昧なイメージしか持っていないが、上記の条件を踏まえて適切な構成を提案して欲しい。

GPUを使用した機械学習では、GPUに搭載されているメモリの容量が重要になります。

メインメモリがGPUメモリ以上に必要なケースは少ない

お客様が自作したPythonコードがマシン本体のメインメモリを重視する場合は例外ですが、GPUを使用した一般的な機械学習では、メインメモリから一旦GPUメモリにデータを移動してから動作します。
そのため、メインメモリがGPUメモリ＋α以上に必要になるケースは少ないです。

ご予算とGPUメモリの条件から、NVIDIA GeforceシリーズをGPUとする方針で検討しました。
ご指定のRTX3090は終息のため、後継のRTX4090としています。ビデオメモリ 24GBに対し、メインメモリは64GBと余裕のあるスペックです。

GPUとCPUの使い分け

また、お客様からは以下のご質問をいただきました。

GPUで学習させた場合はインファレンスもGPUで行うパターンが多いと思われます。[3]についてお客様に確認した結果、インファレンスや推定精度の評価、図化を想定しているとのことでした。
CPUのインファレンスは特殊な機能がなくても可能ですが、処理に大変時間がかかる場合があります。そのため、お使いのインファレンスプログラムが (GPUでいうところのCUDAのように) CPUハード側で用意しているベンダー専用の仕組みを使って組み込まれている可能性がないか、確認をお願いしました。
例えば、IntelのDeep Learning Boostを前提にソフトが組み込まれている場合、この仕組みが実装されているCPUを利用する必要があります。

参考：インテル ディープラーニング・ブースト (インテル DLブースト) ※外部サイトに飛びます

確認・ヒアリングの結果、インファレンス部分はCUDAによるGPU利用での対応であることが確認できたため、CPU側はIntel Deep Learning Boostなどを考慮する必要がないと判断しています。

また、GPUメモリの容量を増やす場合、ビデオカード自体を別の製品に変更する必要があります。
候補としてはRTX A6000 48GBが考えられますが、ご予算内での採用が難しいためRTX4090 24GBを選択している旨をお客様にお伝えし、ご理解をいただきました。ご予算に余裕のあるお客様は、RTX A6000に変更した構成でご案内しますので、お気軽にご相談ください。

検索キーワード
機械学習,地震動,マシン,大量のデータ学習,GPU,Geforce RTX4090,メモリ容量,Python,Sony Neural Network Console,インファレンス
Deep learning，Machine learning，Artificial intelligence，Neural networks，Deep neural networks，Deep stacking networks，Supervised learning，Unsupervised learning，Natural language processing，Smart manufacturing，Computational intelligence，Data analytics，learning (artificial intelligence)，Information processing，Computer vision，AI，big data，programming

声音合成の研究のため、音声言語の機械学習を目的としたマシンを導入したい。
予算60～70万円程度で、希望するマシンスペックは以下の通り。

ご相談の時点では、為替レート上昇などの影響により、ご予算内で複数台のGPUに対応した構成をご提案することが難しいため、GPU x1台に対応した構成をご用意しました。2台目のGPU増設に対応しない構成となります。

また、Ubuntu 18.04のインストールに関しては、以下の情報をお伝えし、方針をご検討いただいています。

お客様からは「Ubuntu 18.04のインストールを試して問題がある場合には、20.04もしくは22.04に変更して構わない」とご承諾いただきましたので、本事例ではご要望に合わせたOSとしています。

また、GPUは新型のRTX4090を採用しています。
RTX4090は物理的なサイズ・発熱が大きいことから、筐体内部のエアフローに十分注意する必要があります。本事例はGPU x1台までに対応したハードウェア構成ですので、内排気タイプのRTX4090にも対応しています。そのため、ご利用ソフトウェア側でGPUに関する制限がなければ、旧製品のRTX3090よりも高い処理性能が期待できます。

参考：【動作検証】GeForce RTX4090 取り付け～OS動作検証情報 ※弊社オウンドメディア「TEGAKARI」へ飛びます

検索キーワード
深層学習,声音合成,音声言語,機械学習,NVIDIA RTX4090,メモリ容量,SSDストレージ,Ubuntu 18.04,GPU構成,オーディオ研究,Deep learning，Machine learning，Artificial intelligence，Neural networks，Deep neural networks，Deep stacking networks，Supervised learning，Unsupervised learning，Natural language processing，Smart manufacturing，Computational intelligence，Data analytics，learning (artificial intelligence)，Information processing，Computer vision，AI，big data，programming

AI研究で画像処理を行うため、専用のマシンが欲しい。
考えているスペックは以下の通り。

・マザーボード：PCI-E4.0x16 (PCI-E5.0x8) 相当の転送速度で2台のGPUを搭載できるもの
・CPU：Intel製
・メモリ：64GB
・ストレージ：SSDとHDD
・GPU：RTX3090もしくはRTX3090Ti のいずれかを2台
・予算：90万円以内

ご予算を重視した構成をご提案しました。
CPUをエントリークラスの製品にして価格を抑えていますが、全体のコストに対してGPUの占める割合が大きく、RTX3090を2台搭載する前提ですと100万円未満でのご案内は難しくなります。そのため、RTX3090を1台にして、ご予算内に収めることを優先しました。
なお、ご予算に余裕がある場合でも、GPUをRTX3090Tiとする場合には、排気形式やカードサイズの問題により1台のみの搭載が限界となりますのでご承知おきください。

検索キーワード
AI画像処理,画像処理マシン,GPU搭載マシン,RTX3090,AI研究,メモリ64GB,SSDとHDD,マザーボードPCI-E4.0x16,インテルCPU,価格重視マシン,Deep learning，Machine learning，Artificial intelligence，Neural networks，Deep neural networks，Deep stacking networks，Supervised learning，Unsupervised learning，Natural language processing，Smart manufacturing，Computational intelligence，Data analytics，learning (artificial intelligence)，Information processing，Computer vision，AI，big data，programming

事例No.PC-8351を見ての問い合わせ。
機械学習および量子化学計算のシミュレーションを行うためのマシンが欲しい。
100V電源環境で利用することができて、以下の条件を満たす提案を希望する。

・CPU：可能な限り最新の世代で、高クロックでかつキャッシュが大きいもの
・メモリ：1コアあたり16GB以上
・ストレージ：SSDと1TB以上のHDDをそれぞれ搭載
・GPU：予算の範囲内で20GB以上のビデオメモリを持つ製品を複数
・電源：100V対応 消費電力によっては、電源 x2台での冗長化も視野に入れる
・予算：500万円以下

ご希望の条件に合わせて構成を検討しました。
ストレージ容量の指定条件が少なかったので、ひとまずのご提案として検討しています。
HDDは筐体内部スペースの都合で搭載できる数に制限があり、RAIDカードなどを搭載するバスが残っていないため、RAID化などには対応できないことをご承知おきください。

電源ユニットは1600W表記ではありますが、100V環境では実質的に1300W強の給電能力です。
本構成に搭載した電源 x2台は冗長化 (どちらかが壊れても動作する) を目的としたものではありませんので、どちらか片方の電源が故障した場合、システムは停止します。この点、サーバー的な安定性を考慮しない構成ですので、あくまで100V環境を優先し、なおかつシステムのダウンタイムが許容できる用途・範囲での利用が前提であることをご承知おきください。

本構成における注意点

あくまで100V対応のために電源を分けているため、消費電力は15Aを超えます。そのため、必ず別系統の電源コンセントから給電していただく必要があります。 (1コンセントからのタコ足配線利用は不可です) 電気契約も15Aでのご利用は不可となります。

また、電源やGPUなどの物理的な配置の問題で、HDDなどを追加することができない構成です。内蔵で搭載できるドライブはM.2タイプのストレージが2枚までです。

最後に、上記の通り電源を連動させて給電する構成ですので、クリティカルな用途でのご利用は避けるようお願いいたします。電源 x2の構成ではありますが、これらはリダンダントではなく給電量を確保するための連動となりますので、片方の電源が故障した場合、システムは機能しなくなるものとお考えください。

検索キーワード
機械学習,量子化学計算,高性能CPU,メモリ16GB以上,SSDとHDD,20GB以上のGPU,100V対応マシン,冗長化電源,マシン構成,ハイエンドワークステーション, Deep learning，Machine learning，Artificial intelligence，Neural networks，Deep neural networks，Deep stacking networks，Supervised learning，Unsupervised learning，Natural language processing，Smart manufacturing，Computational intelligence，Data analytics，learning (artificial intelligence)，Information processing，Computer vision，AI，big data，programming