A30加速卡特點(diǎn)

NVIDIA AMPERE 架構(gòu)

無(wú)論是使用 MIG 技術(shù)將 A30 GPU 分割為較小的實(shí)例，還是使用 NVIDIA NVLink 連接多個(gè)GPU 以加速更大規(guī)模的工作負(fù)載，A30 均可輕松滿足多種規(guī)模的加速需求，從小型作業(yè)到大型多節(jié)點(diǎn)工作負(fù)載都無(wú)一例外。A30 功能全面，這意味著 IT 經(jīng)理可借此在主流服務(wù)器上充分利用數(shù)據(jù)中心內(nèi)的每個(gè) GPU，晝夜不停歇。

第三代 TENSOR CORE 技術(shù)

NVIDIA A30 可提供 165 teraFLOPS (TFLOPS) 的 TF32 精度深度學(xué)習(xí)性能。相較于 NVIDIA T4 Tensor Core GPU，A30 可將 AI 訓(xùn)練吞吐量

提高 20 倍，并將推理性能提高 5 倍以上。A30 可在 HPC 方面提供 10.3 TFLOPS 的性能，比 NVIDIA V100 Tensor Core GPU 高出了近 30%。

新一代 NVLINK

A30 中采用的 NVIDIA NVLink 可提供兩倍于上一代的吞吐量。兩個(gè) A30 PCIe GPU 可通過(guò) NVLink 橋接器連接，以提供 330 TFLOPS 的深度學(xué)習(xí)性能。

多實(shí)例 GPU (MIG)

每個(gè) A30 GPU 最多可分割為四個(gè)GPU 實(shí)例，這些實(shí)例在硬件級(jí)別完全獨(dú)立，并各自擁有高帶寬顯存、緩存和計(jì)算核心。借助 MIG，開(kāi)發(fā)者可為其所有應(yīng)用實(shí)現(xiàn)驚人加速。IT 管理員可為每個(gè)作業(yè)提供符合其規(guī)模的 GPU 加速，進(jìn)而優(yōu)化利用率，并讓每個(gè)用戶和應(yīng)用都能享受 GPU 加速性能。

HBM2 顯存

配合高達(dá) 24GB 的高帶寬顯存 (HBM2)，A30 可提供933GB/s 的 GPU 顯存帶寬，適用于主流服務(wù)器中的多種 AI 和 HPC 工作負(fù)載。

結(jié)構(gòu)化稀疏

AI 網(wǎng)絡(luò)擁有數(shù)百萬(wàn)至數(shù)十億個(gè)參數(shù)。實(shí)現(xiàn)準(zhǔn)確預(yù)測(cè)并非要使用所有參數(shù)，而且我們還可將某些參數(shù)轉(zhuǎn)換為零，以在無(wú)損準(zhǔn)確性的前提下使模型變得“稀疏”。A30 中的 Tensor Core 可為稀疏模型提供高達(dá)兩倍的性能提升。稀疏功能不僅更易使 AI 推理受益，同時(shí)還能提升模型訓(xùn)練的性能。

A30顯卡和A100區(qū)別

A30的架構(gòu)特點(diǎn)則接近A100。峰值原生FP32性能看似并不突出，但雙精度浮點(diǎn)FP64 5.2TFlops為單精度的一半，兼具優(yōu)秀的Tensor Core加速計(jì)算性能，同時(shí)功耗降低至165W。

它的24GB內(nèi)存比A100 40GB的一半多點(diǎn)，但保持使用HBM2，帶寬仍高達(dá)933GB/s。同時(shí)提供PCIe Gen4和NVLINK 200GB/s互連接口。A100支持7個(gè)MIG（多實(shí)例GPU）硬件切分，A30則可選切分成4個(gè)6GB、2個(gè)12GB或者1個(gè)24GB。vGPU這塊，NVIDIA A30的定位只需要支持計(jì)算，本身就沒(méi)有圖形。

Tesla A30顯卡規(guī)格參數(shù)

Nvidia A30
FP64	5.2TF
TF64 Tensor Core	10.3 TF
FP32	10.3 TF
TF32 Tensor Core	82 TF | 165 TF*
BFLOAT16 Tensor Core	165 TF | 330 TF*
FP16 Tensor Core	165 TF | 330 TF*
INT8 Tensor Core	330 TOPS | 661 TOPS*
INT4 Tensor Core	661 TOPS | 1321 TOPS*
編碼/譯碼	1 optical flow accelerator (OFA) 1 JPEG decoder (NVJPEG) 4 Video decoders (NVDEC)
GPU 內(nèi)存	24GB HBM2
GPU 內(nèi)存帶寬	933GB/s
互聯(lián)技術(shù)	PCIe 4.0: 64GB/s 第三代 NVIDIA ? NVLINK ? 200GB/s**
尺寸規(guī)格	2 插槽 (FHFL)
最大散熱設(shè)計(jì)功耗 (TDP)	165W
虛擬化 GPU 軟件支持	NVIDIA AI Enterprise for VMware NVIDIA Virtual Compute Server