NVIDIA GPUの性能比較
AIスタートアップ株式会社Deepreneur(ディープレナー)の澤田です。 弊社で実施したNVIDIA GPUの性能比較に関するサーベイを公開します！
概要
NVIDIAは、データセンター、ワークステーション、そしてコンシューマー向けのグラフィックスアクセラレータを提供していることで知られる企業です。各GPUモデルにおける性能には差があります。そこで、NVIDIAのGPUに関するサーベイを実施し、最先端のGPUをどれほど把握しているのかを詳細に解説します。
NVIDIAのGPUモデル
NVIDIAは、Geforce、Quadro、Titan、Teslaの4つのカテゴリーでGPUモデルを提供しています。それぞれの違いは、用途や性能、バッファーなどです。以下に、最新のTeslaシリーズにおける性能比較を示します。
| GPUモデル | Tensor Cores数 | CUDAコア数 | メモリ容量 | メモリバンド幅 | TDP | 価格 |
|---|---|---|---|---|---|---|
| Tesla T4 | 320 | 2,560 | 16 GB GDDR6 | 320 GB/s | 70 W | $2,500 |
| Tesla V100 | 5,120 | 5,120 | 16 GB HBM2 | 900 GB/s | 250 W | $8,000 |
| A100 | 6,912 | 6,912 | 40 GB HBM2 | 1.6 TB/s | 400 W | $11,000 |
GPUモデルによる性能差
T100、V100、そしてA100のようなGPUモデルには、それぞれ消費電力やGPUコア、メモリバンド幅、Tensor Cores数などに差があります。一般的に、エンタープライズ向けのGPUは、高性能である一方で、コンパクトなGPUは、コストと性能のバランスを考慮されています。
以下は、コンパクトなGPUモデルにおける性能の比較表です。
| 特徴 | テスラ T4 | テスラ K80 |
|---|---|---|
| 建築 | ヴォルタ | マクスウェル |
| CUDA コア | 2,560 | 4,992 |
| メモリー | 16GB GDDR6 | 24GB GDDR5 |
| クロック速度を上げる | 1.582GHz | 875MHz |
| 消費電力 | 70W | 300W |
結論
GPUモデルによって、Tensor Cores数、CUDAコア数、メモリ容量、メモリバンド幅などが異なるため、性能に差があります。最新のGPUモデルは、消費電力に配慮しつつ、性能を追求したものが多く、エンタープライズでの使用が適しています。コンパクトなGPUモデルでは、T4が最新で、L4、A10、そしてK80の順で性能が高く、コスパに優れるという特徴があります。
