PC提案事例

深層学習用マシンの導入を検討している。予算1300万円以内で、適切な構成を提案してほしい。

GPUのVRAM容量を重視しており、それと同時に適切な納期 (入手に時間がかかりすぎない) ことも条件としたい。
具体的なスペックは、CPUはIntel Xeon Platinum 8368 (2.40 GHz 38コア) x2相当で、メモリ容量は512GB以上がよい。
GPUの候補はNVIDIA A100、 NVIDIA V100、 NVIDIA RTX6000 Ada、 NVIDIA A6000 の4つ。この中のどれかを総VRAM容量が128GB程度になるように搭載したいので、納期・コスト・合計VRAM容量の観点から最適なものを選定してほしい。
ストレージは20TB程度、OSはRed Hat Enterprise Linux 8を希望する。

ご要望を踏まえて、ベストな構成をご提案しました。

CPUは第3世代Xeon Platinumをご希望いただきましたが、2024年1月現在、後継品である第4世代の製品が展開されています。
そのため、第4世代XeonでIntel Xeon Platinum 8368と同等スペックのIntel Xeon Platinum 8460Y+ (2.00GHz 40コア) x2を選択しています。

DeepLearningに適したGPUの選定

GPU候補のうち、NVIDIA A100はご相談をいただいた時点で納期が長期化しており、納期を重視する場合にはマッチしない製品でした。
V100はA100と同じGPGPU専用カードの旧世代製品ですが、V100は既に終息しており、仮に入手できたとしてもDeepLearning用途で利用される単精度・半精度の演算性能はアーキテクチャーの世代差によりRTX A6000やRTX6000 Adaよりも低くなります。
また、現時点で総合的には最高の性能を持ったGPUにNVIDIA H100がありますが、非常に高額でありコストパフォーマンスの観点からも扱いの難しい製品です。
これらのことより、総VRAM容量128GB程度の組み合わせを効率よく実現する場合A6000、 もしくはRTX6000 Adaをおすすめします。

本件のお客様へのご提案では、ご予算に合わせて、RTX6000 Ada x4枚（総VRAM容量192GB）を選択しています。
また、本構成はRTX6000 Adaを合計9枚まで増設可能です。
なお、実際の運用においては消費電力の都合上、200V環境が必要となります。

本事例の構成は、お客様から頂戴した条件を元に検討した内容です。
いただいた条件に合わせて柔軟にマシンをご提案いたしますので、掲載内容とは異なる条件でご検討の場合でも、お気軽にご相談ください。