NVIDIA DGX H100、DGX A100、DGX Station A100
スペックを比較してみましょう！
「NVIDIA DGX H100（2023年出荷開始予定）」と、「DGX A100」「DGX Station A100」 のスペック一覧です。
スペック |
NVIDIA DGX H100 |
NVIDIA DGX A100 |
DGX Station A100 |
搭載GPU |
NVIDIA H100 Tensor コア GPU [80GB] × 8基 |
NVIDIA A100 Tensor Core [80 GB] × 8 基 |
NVIDIA A100 Tensor Core [80 GB] × 4 基 |
GPUメモリ |
合計 640GB |
合計 640GB |
合計 320GB |
演算性能 |
32 petaFLOPS /FP8 |
AI で 5 petaFLOPS INT8 で 10 petaOPS |
AI で 2.5 petaFLOPS INT8 で 5 petaOPS |
NVIDIA® NVSwitch™ |
× 4 |
× 6 |
ー |
CPU |
デュアル ×86 |
Dual AMD Rome 7742 2.25 GHz(base), 3.4 GHz(max boost) Total 128 コア |
Single AMD 7742 2.25 GHz (base) 3.4 GHz (max boost) Total 64 コア |
システムメモリ |
2 TB |
2 TB |
512 GB DDR4 |
ネットワーキング |
4個のOSFPポート 8基のシングルポート ConnectX-7 へ接続 400Gb/秒 InfiniBand/Ethernet 2基のデュアルポート NVIDIA BlueField-3 DPU VPI 400Gb/秒 InfiniBand/Ethernet × 1 200Gb/秒 InfiniBand/Ethernet × 1 |
Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 2 |
Single-port 1Gbase-T Ethernet BMC management port Dual-port 10Gbase-T Ethernet LAN |
ストレージ |
OS：1.9TB NVMe M.2 × 2 内部ストレージ：3.84TB NVMe U.2 × 8 |
OS: 1.92 TB M.2 NVMe drives × 2 内部ストレージ:3.84TB NVMe U.2 × 8 |
OS: 1.92 TB NVMe drive × 1 内部ストレージ: 7.68 TB U.2 NVMe drive |
システムソフトウェア |
DGX H100システムにプレインストールされている DGX OSは、Ubuntu Linux をベースとし、DGXソフトウェア スタック（DGX用に最適化されている必要なすべてのパッケージとドライバー）が含まれています。 オプションで、お客様がUbuntu Linux または、Red Hat Enterprise Linux、および必要なDGXソフトウェア スタックを個別にインストールすることもできます。 |
Ubuntu Linux OS Red Hat Enterprise Linux CentOS |
Ubuntu Linux OS |
運用温度範囲 |
5 °C ～ 30 °C |
5 ℃ - 30 ℃ |
5 ℃ - 35 ℃ |
最大消費電力 |
10.2 kW |
6.5 kW max |
1.5 kW（100–120 Vac時） |
前世代
NVIDIA V100 Tensor Core GPU 搭載 DGX シリーズ
スペック
DGX Station |
DGX-1 |
DGX-2 |
|
GPU |
NVIDIA V100 32GB × 4基搭載 |
NVIDIA V100 32GB × 8基搭載 |
NVIDIA V100 32GB × 16基搭載 |
GPUメモリ |
Total 128 GB |
Total 256 GB |
Total 512 GB |
演算性能 |
500 TFLOPS(混合精度) |
1 petaFLOPS(GPU FP16) |
2 petaFLOPS |
NVIDIA CUDA® コア |
20,480 |
40,960 |
81,920 |
NVIDIA Tensor コア |
2,560 |
5,120 |
10,240 |
NVIDIA® NVSwitch™ |
- |
- |
12 |
CPU |
Intel Xeon E5-2698 v4 2.2 GHz, 20 コア |
Dual Intel Xeon E5-2698 v4 2.2 GHz, 20 コア |
Dual Intel Xeon Platinum 8168, 2.7 GHz, 24 コア |
システムメモリ |
256 GB |
512 GB |
1.5 TB |
ネットワーク |
10 GbE × 2 |
10 GbE × 2 Infiniband EDR × 4 |
1 GbE × 1 Dual 10/25/40/50/100GbE × 1 Infiniband EDR/100 GigE × 8 |
ストレージ |
OS: 1.92TB SSD × 1 内部ストレージ : 1.92 TB SSD × 3 RAID 0 |
OS : 480 GB SSD 内部ストレージ : 1.92 TB SSD × 4 RAID 0 |
OS: 960 GB NVMe SSD × 2 内部ストレージ： 30 TB NVMe SSD |
ソフトウェア |
Ubuntu Desktop Linux OS DGX推奨 GPU ドライバ CUDA Toolkit |
Canonical Ubuntu Red Hat Enterprise Linux |
Canonical Ubuntu Red Hat Enterprise Linux |
最大消費電力 |
1,500 W |
3,500 W |
10 kW |
重量 |
40 kg |
61 kg |
163.3 kg |
サイズ |
全高: 639 mm 全幅: 256 mm 奥行: 518 mm |
全高: 131 mm 全幅: 444 mm 奥行: 866 mm |
全高: 440 mm 全幅: 482 mm 奥行: 834 mm 〔フロント ベゼルあり〕 |
運用温度範囲 |
10 ℃ - 30 ℃ |
10 ℃ - 35 ℃ |
5 ℃ - 35 ℃ |
入力電圧 |
100 V |
200 V |
200 V |
|
DGX STATION other specs
* ディスプレイ: Display Port × 3, 4K解像度 * 外部ポート: eSATA × 2, USB 3.1 × 2, USB 3.0 × 4 * 動作音レベル: 35 dB未満 |
