世界初の5ペタFLOPSを実現
NVIDIA DGX™ A100は、GPUに最新のAmpereアーキテクチャ「NVIDIA A100 Tensor Core GPU」をNVIDIA® NVSwitch™ で結合し8基搭載、CPUはAMDのRome EPYC7742 64コア 3.4GHzを採用しています。
ストレージはOS用として1.92TB NVMeSSDをRAID-1で搭載し冗長性を確保、さらにキャッシュ用として高速なU.2 NVNeをRAID-0構成で15TB(3.84TBx4基)確保しています。
外部インターコネクトはMellnox ConnectX®-6 HDR 200Gb/s のQSFP56ポートを8基装備しスケールアップを強力にしています。
新しいGPUである NVIDIA A100 の演算性能は、倍精度で19.5TFLOPSと従来のV100の約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用しソフトウェアの改編の必要なく 312TFLOPSのスループットを実現。
ディープラーニング推論性能は、1,248TOPSといずれもV100の約20倍の演算性能を誇り、8基のA100®を搭載したDGX A100®のAI性能は1ノードで5PFLOPSに達します。
ストレージはOS用として1.92TB NVMeSSDをRAID-1で搭載し冗長性を確保、さらにキャッシュ用として高速なU.2 NVNeをRAID-0構成で15TB(3.84TBx4基)確保しています。
外部インターコネクトはMellnox ConnectX®-6 HDR 200Gb/s のQSFP56ポートを8基装備しスケールアップを強力にしています。
新しいGPUである NVIDIA A100 の演算性能は、倍精度で19.5TFLOPSと従来のV100の約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用しソフトウェアの改編の必要なく 312TFLOPSのスループットを実現。
ディープラーニング推論性能は、1,248TOPSといずれもV100の約20倍の演算性能を誇り、8基のA100®を搭載したDGX A100®のAI性能は1ノードで5PFLOPSに達します。
NVIDIA DGX A100 スペック
NVIDIA DGX A100 |
|
GPU |
NVIDIA A100 Tensor Core GPUs × 8 |
GPUメモリ |
Total 320 GB |
性能 |
5 petaFLOPS AI 10 petaOPS INT8 |
NVIDIA NVSwithes |
6 |
最大消費電力 |
6.5 kW |
CPU |
Dual AMD Rome 7742 128 cores total, 2.25 GHz(base), 3.4 GHz(max boost) |
システムメモリ |
1 TB |
ネットワーク |
8x Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand 1x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200Gb/s Ethernet |
ストレージ |
OS: 1.92TB M.2 NVME drives × 2 Internal Storage: 15TB (4x 3.84TB) U.2 NVME drives |
ソフトウェア |
OUbuntu Linux OS |
重量 |
123 kgs |
サイズ |
全高: 264.0 mm 全幅: 482.3 mm 奥行: 897.1 mm |
運用温度範囲 |
5 ℃ - 30 ℃ |