NVIDIA? T4 GPU

發布時間:2023-06-28點擊次數:36

NVIDIA? T4 GPU 為不同的云端工作負載提供加速,其中包括高性能計算、深度學習訓練和推理、機器學習、數據分析和圖形學。T4 基于新型 NVIDIA Turing? 架構,采用節能高效(70 瓦)的小尺寸 PCIe 封裝,它已針對主流計算環境進行優化,并配備多精度 Turing Tensor Core 和新的 RT Core。與來自 NGC 的加速容器化軟件堆棧相結合,T4 可提供大規模的革命性性能。

規格

GPU 架構 NVIDIA Turing

NVIDIA Turing Tensor 核心數量 320

NVIDIA CUDA? 核心數量 2560

單精度 8.1 TFLOPS

混合精度 (FP16/FP32) 65 TFLOPS

INT8 130 TOPS

INT4 260 TOPS

GPU 顯存 16 GB GDDR6 300 GB/s

ECC 支持

互聯帶寬 32 GB / 秒

系統接口 x16 PCIe Gen3

外形尺寸 PCIe 半高卡

散熱解決方案 被動式

計算 API CUDA NVIDIA TensorRT? ONNX