浪潮发布全球最快「单机」AI训练服务器
2020-08-20 13:28:59爱云资讯743
在前不久公布的全球权威AI测试榜单MLPerf中,浪潮NF5488A5仅用时33.37分钟,就在包含128万张图片的ImageNet数据集上完成Resnet50模型的训练,相当于每秒训练23000多张图片,单机计算性能高居第一,可谓最快人工智能训练服务器。
MLPerf是国际权威的AI测试,2018年由图灵奖得主Patterson联合谷歌、哈佛、斯坦福等发起,每年发布训练和推理两次基准测试榜单。
今年的MLPerf训练测试包含8个主流人工智能模型,涉及计算机视觉、自然语言理解、推荐模型和强化学习4个领域。
浪潮NF5488A5人工智能服务器除了在Resenet50中取得榜首外,还在人工智能自然语言理解Transformer、神经网络翻译系统GNMT、深度学习推荐模型DLRM、目标监测算法SSD等MLPerf的模型训练评估中均取得不俗成绩。
NF5488A5是浪潮自研的新一代AI服务器,单机训练性能可达5 PetaOPS,相比上一代服务器计算性能提升234%。
两年前Facebook的科学家用32台GPU服务器、256块GPU花了1个小时完成了ImageNet上的Resnet50训练,而现在仅需一台NF5488A5,即可在33分钟完成同样的训练,单台设备训练效率提升近60倍。
同时,浪潮优化了NF5488A5的拓扑结构,采用NUMA绑定策略,可实现CPU与最近GPU的指定通信,大幅提升CPU与GPU之间的数据传输效率,实现更低的数据传输延迟和更高的带宽,满足各种AI负载高效数据通信需求。
此外,NF5488A5在能效和散热方面也充分考虑了用户需求:
4U尺寸设计,适用于更广泛的数据中心部署环境;
优化的供电策略可提高供电稳定性并降低TCO;
先进的散热系统实时保证散热稳定可靠,完美满足35℃环境温度下工作。
NF5488A5可广泛应用于图像视频、语音识别、金融分析、智能客服等典型AI应用场景,帮助AI用户高效完成AI基础设施和开发环境的构建,缩短开发周期,显著提升AI开发和应用效率,在享受更高计算性能的同时降低部署、运行成本。
浪潮是人工智能计算的领导品牌,AI服务器中国市场份额保持50%以上。并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助AI客户在语音、语义、图像、视频、搜索、网络等方面取得数量级的应用性能提升。
相关文章
- 引领大模型推理效率革命!浪潮存储发布国内首款推理加速存储AS3000G7
- 浪潮KaiwuDB 出席 2025 开放原子开源生态大会,开源社区项目挑战赛正式发布
- 数智浪潮奔涌青岛,华为中国政企用户峰会2025启幕在即
- 浪潮KaiwuDB 入选 Gartner DBMS “市场指南”及数据技术“成熟度曲线”双报告
- 浪潮KaiwuDB 受邀出席2025可信数据库发展大会,分享能源行业数据库应用创新
- 机器人替代机器:智库智能引领托盘仓储领域时代浪潮 ——专访江苏智库智能科技有限公司CEO 蔡传玉
- 传音控股本地化战略的跨区域成功:驱动东南亚、南亚数字化浪潮
- 浪潮KaiwuDB 连续三年入选中国信通院数据库产业图谱,持续筑牢可信数字底座
- 工业富联:AI浪潮中的“蜕变者”,下一个万亿巨头
- 中国工联院联合浪潮KaiwuDB 等单位编写《工业数据库规范》系列标准,推进工业数字底座建设
- 浪潮通信信息参编的TM Forum自智网络产业白皮书7.0发布
- AI浪潮下存储需求大增,江波龙以自研技术加速全产业链布局
- 医药数字化浪潮奔涌,新畅科技亮相第90届全国药品交易会引行业瞩目
- 浪潮瑶台预制模块化数据中心入选《中国-上海合作组织数字技术工具箱(2025)》
- 从“新三样”到空天地海,中国移动硬核科技矩阵引领AI+时代浪潮
- 来也科技发布多场景智能体矩阵,开启智能体规模化落地浪潮