浪潮发布新版AIStation推理服务平台,可高效调度多元AI芯片
2021-09-23 12:29:32爱云资讯
浪潮AIStation是业界领先的人工智能开发服务平台,可支持超过数千节点AI服务器的超大规模人工智能集群调度管理。基于容器化技术简化算力调度过程,帮助用户摆脱在大规模AI计算集群中进行算力选择、算力适配等繁杂工作,提高调度效率。实现资源敏捷调配,使得资源利用率得以大幅提升;强大的平台调度机制可以应对需求突发场景在几分钟内自动完成服务扩容;支持多源模型统一部署,模型部署时间从数天缩短到几分钟,从而实现业务快速上线。AIStation可支持百万级高并发的大规模AI推理服务场景,服务响应平均延迟低于1ms。
当前,日趋丰富的人工智能应用对多元化AI芯片算力的需求激增,驱动人工智能计算系统向多元算力计算架构转化。使用多种AI芯片的混合计算架构需求越来越多,这种需求在产业AI化、智算中心等大规模AI计算系统建设时更加迫切。然而,各种类型AI芯片的连接接入标准不同,用户在使用多元AI芯片系统时会遇到系统适配、芯片驱动、互联互通、功耗管理、安全传输、易用性等各类问题,给用户在部署多元AI芯片算力系统时提出巨大挑战。
针对当前多元化算力的应用困局,浪潮此次发布的新版AIStation推理服务平台实现了对英伟达、寒武纪、昆仑芯、高通等6家国际国内厂商的12款AI和GPU芯片的多元算力支持。AI芯片可通过适配浪潮提供的AI芯片算力接入规范即可快速接入AIStation平台,帮助用户降低对多元AI芯片的使用和管理难度。AIStation平台实现多元算力的统一管理及调度,为生产环境算力运行提供一致的监管功能,对GPU、MLU、XPU等AI芯片的性能状况、AI业务流量及响应延时进行实时监控,并根据监控数据进行分析、决策、执行操作,实现服务算力的自动调节、自适应推理业务突发资源扩展需求。
AIStation是业界首个支持多元AI芯片算力的人工智能服务平台,打通了多元AI芯片从接入、管理、调度、适配到应用的路径,通过构建AI芯片算力接入规范实现多元算力的标准化管理,为产业AI化和智算中心建设提供高效便捷的AI算力调度,让AI应用和AI服务更便捷,助力用户充分使用多元算力实现AI技术创新和落地。目前,浪潮AIStation推理服务平台已在诸多客户获得成功应用,在新基建、互联网、金融、保险、交通、手机通信、智能汽车、智慧城市等多个AI场景发挥着重要作用。
- 华为首款开放式耳机正式发布,创新C形设计引领科技时尚新浪潮
- 统信软件多款产品与KeyarchOS完成浪潮信息澎湃技术认证
- 浪潮信息G7服务器全面支持第五代英特尔®至强®可扩展处理器
- CHS2023丨神州医疗许娟:AI浪潮下的医疗大模型突破与创新
- 内嵌混合AI算力+增强AI+体验升级,ThinkPad X1 Carbon AI引领AI PC浪潮
- 清流资本十周年特别行动:CEO闭门会系列之“拥抱新AI+新智造浪潮”专场
- 信创浪潮下,蓝科LucaNet如何助力企业财务实现数字化跃升
- IDC: 浪潮信息居全球服务器份额第二
- 2024 信心满满!19家元脑生态伙伴与浪潮信息签署亿元分销协议
- 高通孟樸:在新一轮5G+AI创新浪潮下,携手产业共建数字化未来
- 中控技术发布InPlant SCADA 2024新版本:免费授权加速组态软件发展浪潮
- 浪潮信息刘军:智算力系统创新 加速生成式AI产业发展
- 高通陈雷:新一轮5G浪潮推动绿色低碳经济发展
- AGI引领智能升级浪潮,微美全息布局高增长领域书写AI行业发展前沿
- 迎数贸浪潮,信天金钗石斛与数字未来共健康
- 浪潮信息赵帅:实现算力全流程绿色化,推动数据中心可持续发展