PyTorch+昇腾 共促AI生态创新发展

2023年10月5日(北京时间),PyTorch社区正式发布2.1版本,经过PyTorch社区与昇腾的持续合作和共同努力,Pytorch 2.1版本已同步支持昇腾NPU,意味着开发者可直接在PyTorch 2.1上基于昇腾进行模型开发。未来,通过持续的社区技术贡献,昇腾将与PyTorch社区版本同步演进及发布,共促AI技术创新和开源生态发展。

图注:PyTorch 社区2.1版本的官方发布声明中宣布昇腾NPU已成功对接

PyTorch在新版本中发布了更加完善的第三方设备接入机制,该特性由昇腾主导,与PyTorch社区的核心维护者共同完成。基于该特性,三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架,昇腾也提供了官方认证的Torch NPU参考实现,可以指导三方设备便捷接入。

在早前版本中,由于缺少对于昇腾算力设备的原生支持,开发者如果想在主流框架下调用昇腾NPU实现加速,还需要花费数周时间进行模型迁移。而现在,基于新版本,用户可以在昇腾NPU上直接享受原生PyTorch的开发体验,获得可以高效运行在昇腾算力设备上的模型和应用。

基于PyTorch,昇腾已经适配了BLOOM、GPT-3、LLaMA等业界主流大模型,深度优化后性能可持平业界,在最新的PyTorch版本上,昇腾将与社区紧密合作,同步演进,不断提升模型加速能力。

未来,昇腾将通过持续的技术贡献,积极推动PyTorch社区多样性算力改进,优化PyTorch框架,帮助释放昇腾算力,与PyTorch社区贡献者一起,共促AI技术创新和开源生态的快速发展。