华为云全球首发GPU共享型AI容器 加速“普惠AI”落地
2018-08-28 17:07:46AI云资讯1121
大会期间,华为公司副总裁、华为云BU总裁郑叶来到会致词。郑叶来认为,Cloud2.0时代,企业要实现快速发展,要关注三个方面:第一,各行各业走向云服务时要坚定不移地构建自己的生态,坚守自己的数据主权,这样才可能持续的发展。第二,要将服务客户隐私安全要作为企业的最高纲领。第三,坚持构筑自己的品牌。品牌是打出来的,一个企业构筑自己的品牌,既要提供有竞争力的产品和差异化竞争力,也要构建自己通达客户的手段,即电商平台。通过打造自己的电商平台,做好线上线下的融合,同时将电商平台打造成自身品牌的门户与品牌战场,企业才能不受别的平台影响,焕发品牌的生命力。

华为公司副总裁、华为云BU总裁郑叶来
当下,人工智能已成为各行各业的热点和趋势,在实际应用中,企业在不断追求各类AI计算场景下性能和成本的极致体验。容器以其独特的技术优势,已经成为业界主流AI计算框架(如Tensorflow、Caffe)的核心引擎。华为云为了进一步解决企业在AI计算性能与成本上面临的问题,为企业量身打造了AI容器产品。

华为EBG中国区行业云拓展部部长胡维琦现场发布GPU共享型AI容器
华为云AI容器是全球首款支持共享GPU的高性能容器产品,在业界首家实现了多容器共享GPU资源,大幅降低了AI计算的成本,并在AI计算性能上比通用方案提升了3-5倍以上。

极致性能。裸金属NUMA架构与高速IB网卡,性能提升3-5倍
在典型的深度学习模型训练场景下,需要传输和处理海量的数据。通常的方案由于系统吞吐量的限制,往往会让GPU等待数据,导致计算效率低下,训练时间较长。
华为云AI容器运行在高性能的裸金属服务器上,并通过NUMA架构和100G IB网卡实现高速、低延迟的大数据量传输,让GPU充分发挥大规模并行计算的优势,从而大幅缩短训练的时间。经实践验证,深度学习训练对比传统GPU加速方式能够进一步提升3~5倍。
高效计算。GPU资源多容器共享调度,计算成本大幅降低
业界通常的方案中,单块GPU只能被单个容器所占用,使得昂贵的GPU资源无法被充分利用。华为云通过优化K8S容器调度引擎,能够为容器中的AI计算任务分配更细粒度的GPU资源,实现多个AI计算任务共享GPU,在部分AI计算如推理类场景中能够实现更高的资源利用率,从而大幅降低AI计算成本。
成熟应用。主流GPU型号全适配,并在华为云EI产品大规模使用
华为云AI容器已完成多款主流GPU的适配,包括Nvidia Tesla P4/P100/V100等产品系列,客户可根据不同应用场景灵活选取,以达到最高的性价比。
华为云AI容器支持Tensorflow、Caffe等主流深度学习框架,并在华为云EI的深度学习、推理平台、人脸/图像/文字识别等多个服务得到广泛应用与验证。目前正式面向华为云客户提供该项服务,让客户轻松获得强劲、高效的AI计算引擎。
目前AI容器已在华为云的CCE容器服务中开展公测,您可以访问以下地址申请试用:
https://console.huaweicloud.com/cce2.0/#/app/resource/cluster/list?type=GPU
HUAWEI CONNECT 2018作为华为自办的面向ICT产业的全球性年度旗舰大会,将于2018年10月10日-12日在上海隆重举行。本届大会以“+智能,见未来”为主题,旨在搭建一个开放、合作、共享的平台,与客户伙伴一起共同探讨如何把握新机遇创造智能未来。欲了解更多详情,请参阅:
https://www.huawei.com/cn/press-events/events/huaweiconnect2018?ic_medium=hwdc&ic_source=corp_banner_allwayson&source=corp_banner相关文章
- 华为云创想者大会主题论坛议程公布:释放Agentic AI新布局
- 华为云创想者大会主题论坛议程公布:释放Agentic AI新布局
- 释放数据要素价值,华为云政务数字基础设施解决方案正式发布
- 华为云创想者大会剧透:计划6月重磅发布AI全系产品
- 抓AI机遇,助伙伴增长——2026华为云核心生态伙伴共创研讨会在沪举行
- 华为云发布“加速智能化·企业快成长行动2026”,助力中小企业跨越AI鸿沟
- 华为畅享90系列支持室内定位,华为云空间守护设备安全
- 极致性价比!华为云柔性智算FlexNPU让算力不再“摸鱼”
- 华为云AI战略升级:以行业智能体为中心,打造企业级AI创新“黑土地”
- 华为云陈林:只有深入了解行业、用好“数据+AI”,才能真正解决问题、创造价值
- 华为云TaurusDB数据库智胜开年季,为高并发业务打造“既稳又弹”的数据引擎
- “政策+产品+激励”三箭齐发,华为云开年采购季动员会吹响开门红冲锋号
- 华为云码道(CodeArts)代码智能体公测版正式发布,开启智能体编码新实践
- 华为云核心网开启体验经营新纪元
- 华为云完成智谱GLM-5适配,多款产品已接入可在线体验
- 华为云黄瑾:做难而正确的事,用AI解行业难题
人工智能企业
更多>>人工智能硬件
更多>>人工智能产业
更多>>人工智能技术
更多>>- Twinkle x昇腾,率先实现Deepseek-V4系列模型高效训练
- 高德发布鸿蒙首个生成式 UI 开源框架 AGenUI,告别传统 UI 开发模式
- 发布即适配| 天数智芯全力支持腾讯混元Hy3 preview 开源落地,共推国内大模型产业普惠
- Seedance 2.0面向企业公测,豆包大模型日均Token使用量突破120万亿
- 端到端OCR模型第一!百度千帆Qianfan-OCR正式发布
- 云知声Unisound U1-OCR大模型发布!首个工业级文档智能基础大模型,开启OCR 3.0时代
- 基石智算上线 MiniMax M2.5,超强编程与智能体工具调用能力
- 昇腾原生支持,科学多模态大模型Intern-S1-Pro正式发布并开源









