英伟达(NVIDIA)A2显卡 16GB显存 单槽 40-60W PCIe4.0 x16;AI 深度学习训练、推理GPU显卡,推理首选

名称
NVIDIA A2
品牌
英伟达(NVIDIA)
SKU#
900-2G179-0020-101
价格
9300.00
联系
138 0126 0288
保修
整机原厂3年;配件单独保修1年
商家
产品概况

通用入门级推理GPU
NVIDIA A2 Tensor Core GPU 具有低功耗、小尺寸和高性能的特点,可为 NVIDIA 边缘 AI 提供入门级推理功能。A2 采用半高 PCIe 4.0设计和 40-60 瓦低热设计功耗(TDP)配置功能,为各种服务器带来自适应推理加速。
A2 的通用性、小尺寸和低功耗可轻松满足对大规模边缘部署的需求,能立即将现有的入门级 CPU服务器升级到能处理推理的水平。使用A2 GPU 加速的服务器提供比使用 CPU 更高的推理性能,智能视频分析(IVA)部署效率比使用前几代 GPU 更高,而且这都基于入门级价格。
搭载 A2 GPU 和 NVIDIA AI 的 NVIDIA-Certified Systems(NVIDIA认证系统),包括 NVIDIA Triton  推理服务器,可跨边缘、数据中心和云提供突破性的推理性能。这些系统确保支持 AI 的应用能够以更少的服务器和更低的功耗完成部署,从而在显著降低成本的情况下更轻松地部署和更快地获取见解。
 
推理性能提升高达 20 倍
部署 AI 推理技术的目的是通过实时体验使消费者的生活变得更便利,并支持其从数万亿个端点传感器和摄像头获得认知。与 CPU 服务器相比,搭载 NVIDIA A2 Tensor Core GPU 的服务器可提供高达 20 倍的推理性能,能立即将服务器升级到能处理现代 AI 的水平。
在智能边缘实现更高的 IVA 性能
在智慧城市、制造和零售等智能边缘用例中,搭载 A2 的服务器最高可将性能提升 1.3 倍。与前几代 GPU 相比,运行 IVA 工作负载的 NVIDIA A2 GPU 最高可将性价比和能效分别提升1.6 倍和 10%,从而改善部署效率。
NVIDIA A2 带来突破性的 NVIDIA Ampere 架构创新
完整的推理产品组合
NVIDIA 提供完整的 NVIDIA 认证系统产品组合,搭载 Ampere Tensor Core GPU这一助力 NVIDIA AI 的推理引擎。A2 Tensor Core GPU 为已经包括 A100 和 A30 Tensor Core GPU 的 NVIDIA AI 产品组合增加了低版外形规格的入门级推理产品。A100 可实现各种规模的超高推理性能,A30 则为主流服务器提供更佳推理性能。NVIDIA A2、NVIDIA A30 和 NVIDIA A100 Tensor Core GPU 在边缘、数据中心和云中提供领先的推理性能。
适用于企业的优化软件和服务
NVIDIA AI Enterprise
NVIDIA AI Enterprise 是一套端到端云原生 AI 和数据分析软件,经认证可在基于服务器虚拟化平台的虚拟基础设施(带有 VMware vSphere)中的 A2 上运行。这使得在混合云环境中管理和扩展 AI 和推理工作负载成为可能。

系统规格
 
FP32 峰值性能
4.5 TF
TF32 Tensor Core
9 TF | 18 TF1
BFLOAT16 Tensor Core
18 TF | 36 TF1
FP16 Tensor Core 峰值性能
18 TF | 36 TF1
INT8 Tensor Core 峰值性能
36 TOPS | 72 TOPS1
INT4 Tensor Core 峰值性能
72 TOPS | 144 TOPS1
RT Core 数量
10 个
媒体引擎
1 个视频编码器
2 个视频解码器(包括 AV1 解码)
GPU 显存
16GB GDDR6
GPU 显存带宽
200GB/s
互连
PCIe 4.0 x8
外形规格
单插槽,半高 PCIe
最大热设计功耗(TDP)
40-60W(可配置)
vGPU 软件支持
NVIDIA 虚拟 PC (vPC)、
NVIDIA 虚拟应用(vApp)、
NVIDIA RTX 虚拟工作站(vWS)、
NVIDIA AI Enterprise、
NVIDIA 虚拟计算服务器(vCS)
产品特征:NVIDIA A2(900-2G179-0020-101)