浪潮信息AI服务器率先支持L40S,首发LLaMA训练优异性能
2023-09-24 07:55:11爱云资讯
浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力,客户可以进行下单采购。
本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号,产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络,从而满足大模型计算对高算力、高互联的极致性能需求。在软件上,产品支持浪潮信息最新推出的OGAI大模型智算软件栈,为客户提供高效的大模型生产力支撑。
针对业界广泛使用的LLaMA开源大型语言模型,浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试,得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验,L40S GPU的强大性能得以充分发挥,实际测试数据表明LLaMA大模型微调训练性能优异。
浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务,并具备良好的性能扩展,将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态,加速生成式AI的产业创新和发展。
相关文章
- 浪潮信息IPF24: 发展人工智能+,创新需要激发活力、拓展路径、加速落地
- 浪潮信息发布企业大模型开发平台“元脑企智“EPAI,加速AI创新落地
- 浪潮信息联合英特尔发布AI通用服务器,可运行千亿参数大模型
- “元脑”品牌全面升级!浪潮信息全力进击人工智能
- 浪潮信息携手SAP,护航玉柴集团数字化转型“三级跳“
- 浪潮信息承办“数据中心高能效“开放计算技术沙龙成功举行
- Gartner:2023年浪潮信息存储装机容量全球前三
- 浪潮信息发布全球首个单存储16节点SAP HANA集群方案
- 浪潮信息“源2.0“大模型YuanChat支持英特尔最新商用AI PC
- PCB龙头兴森科技个性化定制升级,浪潮信息夯实数据基座
- 新升级 浪潮信息边缘服务器支持英特尔第五代至强处理器
- AIGC概念狂飙不停 万兴科技浪潮信息等引爆A股3月开门红
- XEDP与KeyarchOS完成浪潮信息澎湃技术认证
- 面壁智能加入元脑生态,携手浪潮信息加速大模型+Agent应用落地
- 优炫数据库与KeyarchOS完成浪潮信息澎湃技术认证
- 天壤加入元脑生态,携手浪潮信息让企业大模型开发普适化
热门文章
头条文章
重点文章
推荐文章
热点文章