G-DEP
  • Home
    • 新着情報
  • NVIDIA DGX H100
  • NVIDIA DGX A100
  • DGX Station A100
  • スペック比較
  • 導入事例
  • お問い合わせ
  • About G-DEP

NVIDIA DGX A100

第3世代 世界最先端 AIシステム
画像

DGX A100 ラインナップ

・320GBモデル(NVIDIA A100 Tensor Core  GPU 40GB × 8 基搭載)
​・640GBモデル(NVIDIA A100 Tensor Core  GPU 80GB × 8 基搭載)New!
2020年11月、NVIDIAより「NVIDIA A100 640GB」モデルがリリースされました。
「NVIDIA A100 640GB」モデルは、高速な High Bandwidth Memory 2E(HBM2E) を採用し、容量を640GBに倍増。
​さらに2TB/sを超えるメモリバス帯域幅を実現し、従来のA100と比較し1.25倍から3倍の性能向上を実現!

NVIDIA DGX A100 ​特徴

NVIDIA A100 Tensor Core GPU ×  8基 搭載

  • GPU あたり 12 の NVLink GPU から GPU への帯域幅: 600 GB/秒

デュアル AMD Rome CPU

  • 3.2 倍のコア(DGX-1比)で最も集中的な AI ジョブを強化

GEN4 NVME SSD

  • ピーク時の帯域幅: 50 GB/秒Gen3 NVME SSD より 2 倍高速
画像

6基のNVIDIA NVSwitch

  • 双方向の帯域幅: 4.8 TB/秒、前世代と比較して 2 倍
画像

MELLANOX CONNECTX-6 HDR ネットワーク

  • ピーク時の双方向の帯域幅: 500 GB/秒
画像

​搭載GPU
NVIDIA A100 Tensor Core 特徴

画像

​飛躍的な世代更新 Volta の 20倍

 
ピーク性能
vs Volta
FP32 学習
312 TFLOPS
20倍
INT8 推論
1,248 TOPS
20倍
FP64 HPC
19.5 TFLOPS
2.5倍
*新機能高速スパース演算処理使用時
画像

Ampere

​世界最大の7nmチップ
548トランジスタ、HBM2
画像

第3世代 Tensor Cores

​更なる高速化、柔軟性、簡便
20倍のAI性能(TF32)

画像

新たな高速スパース演算処理機能

​​AIモデルにおけるスパースを活かし
最大2倍のAI性能を発揮

画像

新たなマルチインスタンスGPU

GPUあたり最大7つの
​同時実行可能インスタンス
画像

第3世代 NVLINK & NVSWITCH

システム性能最大化のための
効率的なスケーリング、2倍以上の帯域

新たなマルチインスタンス GPU (MIG)​とは・・・

GPU を利用できるユーザーが増える
MIG を利用すれば、1 つの A100 GPU で GPU リソースを最大 7 倍にすることができます。MIG があれば、研究者や開発者はこれまでにない多くのリソースと柔軟性を得られます。
​

GPU 利用率を最適化する
MIG には、さまざまなインスタンス サイズを選択できる柔軟性があり、各ワークロードに適した規模で GPU をプロビジョニングできます。結果的に、利用率が最適化され、データ センターに対する投資が最大化されます。
​

混合ワークロードを同時実行する
MIG を使用すると、推論、トレーニング、ハイ パフォーマンス コンピューティング (HPC) といった複数のワークロードを、互いのレイテンシとスループットに影響を与えることなく単一 GPU 上で同時に実行できます。 
画像
画像

NVIDIA DGX ソフトウェアスタック

最適化されたディープラーニングフレームワークがすぐに使える

画像
DGX システムは、DGX共通のソフトウェアスタックを備えています。

AI チューニングされた基本オペレーティング システム、必要となるすべてのシステム ソフトウェア、GPU 対応アプリケーション、トレーニング済みモデル、NGC™ の各種機能など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。

すべてのDGX システムにおいて、ソフトウェア、ツール、NVIDIA専門スタッフからなる統合的なソリューションが、すばやい利用開始、迅速なトレーニング、スムーズな運用を実現します。

組み込まれたセキュリティ

DGX A100 は、あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェア コンテナー、安全な管理と監視といったマルチレイヤー アプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。
画像

NVIDIA DGX A100 スペック

  DGX A100
320GB 640GB
GPU NVIDIA A100 Tensor Core
40 GB × 8 基
NVIDIA A100 Tensor Core
80 GB × 8 基
GPUメモリ Total 320 GB Total 640 GB
性能 AI で 5 petaFLOPS
INT8 で
10 petaOPS
NVIDIA NVSwitches 6
CPU Dual AMD Rome 7742
2.25 GHz(base),
​3.4 GHz(max boost)
Total 128 コア
システムメモリ 1 TB
(最大2TBに拡張可能)
2 TB
ネットワーク Single-Port
Mellanox ConnectX-6
VPI
200Gb/s HDR
InfiniBand × 8
Dual-Port
Mellanox ConnectX-6
VPI
10/25/50/100/200 Gb/s Ethernet × 1
(Dual Portカードを2枚に拡張可能)
Single-Port
Mellanox ConnectX-6
VPI
200Gb/s HDR
InfiniBand × 8
Dual-Port
Mellanox ConnectX-6
VPI

10/25/50/100/200 Gb/s Ethernet × 2
ストレージ OS: 1.92 TB M.2 NVME drives × 2
内部ストレージ:
15 TB (3.84 TB × 4)
U.2 NVME drives
(30TBに拡張可能)
OS: 1.92 TB M.2 NVME drives × 2
内部ストレージ:
30 TB (3.84 TB × 8)
U.2 NVME drives
ソフトウェア Ubuntu Linux OS
Red Hat Enterprise Linux
CentOS​
最大消費電力 6.5 kW max
重量 ​123 kg
サイズ 全高: 264.0 mm
全幅: 482.3 mm
奥行: 897.1 mm
運用温度範囲 5 ℃ - 30 ℃

NVIDIA DGX A100 製品カタログ

画像
画像
画像

​G-DEP 日本GPUコンピューティングパートナーシップ


sales@gdep.jp

お問い合わせについては当組合員である株式会社ジーデップ・アドバンス、
またはGDEPソリューションズ株式会社が対応・回答いたします。
個人情報の取り扱いについて
​
利用規約
> DGX H100
> DGX A100

> DGX STATION A100
> スペック比較
​> 導入事例
> About G-DEP
画像
営業日:月曜~金曜日​
休業日:土日、祝日、年末年始
​​営業時間:9:00-18:00
Copyright © G-DEP, Nihon GPU Computing Partnarship
  • Home
    • 新着情報
  • NVIDIA DGX H100
  • NVIDIA DGX A100
  • DGX Station A100
  • スペック比較
  • 導入事例
  • お問い合わせ
  • About G-DEP