NVIDIA A30

發布時間:2023-06-28點擊次數:36

適用于不同企業的 AI 推理和主流計算

借助 NVIDIA A30 Tensor Core GPU 為各種企業工作負載帶來加速性能。借助 NVIDIA Ampere 架構 Tensor Core 多實例 GPU (MIG),它可以安全加速各種工作負載,其中包括大規模 AI 推理和高性能計算 (HPC) 應用程序。具有 PCIe 外形規格(非常適合主流服務器)的 A30 集快速顯存帶寬與低功耗于一體,不僅能實現彈性數據中心,還能為企業帶來更大價值。

A30 Tensor Core GPU 規格

FP64

5.2 teraFLOPS

FP64 Tensor Core

10.3 teraFLOPS

FP32

10.3 teraFLOPS

TF32 Tensor Core

82 teraFLOPS | 165 teraFLOPS*

BFLOAT16 Tensor Core

165 teraFLOPS | 330 teraFLOPS*

FP16 Tensor Core

165 teraFLOPS | 330 teraFLOPS*

INT8 Tensor Core

330 TOPS | 661 TOPS*

INT4 Tensor Core

661 TOPS | 1321 TOPS*

媒體引擎

1 個光流加速器 (OFA)
1 個 JPEG 解碼器 (NVJPEG)
4 個視頻解碼器 (NVDEC)

GPU 顯存

24GB HBM2

GPU 顯存帶寬

933GB/s

互聯

PCIe Gen4: 64GB/s
第三代 NVLINK:200 GB/s**

外形規格

雙插槽、全高、全長 (FHFL)

最大熱設計功耗 (TDP)

165W

多實例 GPU (MIG)

4 個 GPU 實例,每個 6 GB
2 個 GPU 實例,每個 12GB each
1 個 GPU 實例,24 GB

虛擬 GPU (vGPU) 軟件支持

適用于 NVIDIA AI Enterprise
NVIDIA 虛擬計算服務器