一、概述
华为Atlas 300T Pro 训练卡 (型号 9000)配合服务器,为数据中心提供强劲算力的AI加速卡,单卡可提供最高280 TFLOPS FP16算力,加快深度学习训练进程。
Atlas 300T Pro 训练卡 (型号 9000)具有超强算力、高度集成、高速带宽等特点,满足互联网、运营商、金融等需要人工智能训练以及高性能计算领域的算力需求。
二、产品特点
高度集成
AI算力、通用算力、I/O能力三合一。
处理器集成30个华为达芬奇AI Core +16个TaiShan核 + 1 * 100GE RoCE v2网卡。
超强算力
内置30个达芬奇AI Core。
提供业界领先的280 TFLOPS FP16算力。
高速带宽
支持PCIe 4.0和 1*100G RoCE高速接口,出口总带宽56.5 Gb/s。
无需外置网卡,训练数据和梯度同步效率提升10%~70%。
三、经典使用场景
Atlas 300T Pro 训练卡 (型号 9000)典型应用场景为AI训练,人机交互操作,如图3-1所示。
图3-1 典型单机用户
系统管理员:操作界面是iBMC系统,通过带外的方式实现设备管理,包含OS安装,固件升级,服务器系统信息查询,故障处理。
生产装备人员:通过装备系统与iBMC系统(带外)和OS系统(带内)交互完成。
算法工程师:通过Tensorflow等AI框架开发网络模型,调试训练代码,导入训练数据集,启动训练,观测训练过程(包含多次迭代的loss趋势),导出训练好的模型。
四、产品规格