国内首个支持千亿参数大模型训练AI计算框架MindSpore 1.2发布
2021-04-26 15:38:00爱云资讯
全自动并行
在静态图模式下,MindSpore融合了流水线并行、模型并行和数据并行三种并行技术,开发者只需编写单机算法代码,添加少量并行标签,即可实现训练过程的自动切分,使得并行算法性能调优时间从月级降为小时级,同时训练性能相比业界标杆提升40%。
在动态图模式下,MindSpore独特的函数式微分设计,能从一阶微分轻易地扩展到高阶微分,并进行整图性能优化,大幅提升动态图性能;结合创新的通讯算子融合和多流并行机制,较其它AI框架,MindSpore动态图性能提升60%。
全场景AI
MindSpore实现了在云、边、端不同场景下硬件设备的快速应用、高效运行与有效协同。通过全场景AI的能力,Huawei Watch GT的抬腕识别率提升了80%,时延小于5ms,模型小于1KB,大幅提升了用户体验。
· 在云端:通过自适应模型切分和服务内分布式并行调度技术,可支持超大模型在多张加速卡上的推理部署,且推理性能较目前业界领先的serving服务方式提升30%;
· 在边缘侧:通过自适应模型压缩技术,将CV类(Computer Vision 计算机视觉)模型压缩2/3,推理时间缩短50%,用户侧实测精度损失<1%,能有效解决边缘侧算力瓶颈;
· 在端侧:模型即代码,将模型编译到代码里,实现了极小的ROM(Read-Only Memory储存内存)占用。同时,通过算子数据重排技术提升端侧Cache命中率,可降低推理时延,解决在超轻量IOT设备进行部署时受设备类型、内存等所限制的难题。
可解释推荐模型
MindSpore内置业界首个语义级可解释推荐模型TB-Net,基于原创知识图谱双向传导技术,从知识图谱的海量关系路径中,精准识别影响用户行为的核心特征和关键路径,提供个性化推荐和语义级的解释,可解释性评估指标相比业界模型提升63%。
自2020年3月开源以来,MindSpore社区拥有逾17万名开发者,软件下载量超过24万,在超过10个行业规模使用。此外,在码云(Gitee)上MindSpore的代码活跃度、影响力、社区活跃度、团队构建、流行趋势综合排名第一。目前,MindSpore已是发展最快的AI开源社区。
作为华为ICT基础设施业务面向全球开发者的年度盛会,华为开发者大会2021(Cloud)(简称HDC.Cloud 2021)于2021年4月24日-26日在深圳举行。本届大会以#每一个开发者都了不起#为主题,将汇聚业界大咖、华为科学家、顶级技术专家、天才少年和众多开发者,共同探讨和分享云、计算、人工智能等最新ICT技术在行业的深度创新和应用。
- MongoDB观点:让生成式AI成为业务增长的新动能,游戏公司可以这样做
- 京东先人一步上线影石Insta360 X4相机 丰富AI功能助你拍摄精彩视频
- 人形机器人行业迎发展重要转折点,苹果/微美全息前瞻布局共研AI+创新应用新篇章
- WOT全球技术创新大会2024北京站:AIGC与大模型的未来风暴
- 百度何俊杰:智能体,创造AI原生未来
- Suno V3引爆AI音乐产业链机遇 券商看好万兴科技昆仑万维等投资机会
- 三盟科技推出AIGC助手广场 引领教垂大模型走向“智变”
- “大模型”时代 路凯智行如何Rock AI
- 第八届社交媒体风向大会 | 20+AI专家,预测AI下的产业新风向
- 影驰AIGC创意设计大赛正式上线!AI樱花季,曜你不同
- 马斯克感慨硅谷AI人才争夺疯狂 万兴科技百万年薪邀人才共赴AI大时代
- 木愚科技亮相中国高等教育博览会,AIGC实训方案助力高职院校人才培养
- 百度文库官宣「AI创作」体验官李雪琴,带来AI办公提效新范式
- AI赋能千行百业:湖南卫视首创AI导演 万兴“天幕”革新视频内容创作
- 西云算力举办AIGC沙龙,CTO梁峰分享“全系列全场景智算基础设施”
- 高通钱堃:5G+AI赋能数字化转型,将带来下一个创新周期