阿里云机器学习平台PAI论文入选IJCAI 2022会议
2022-07-25 16:09:48爱云资讯
近日,阿里云机器学习平台PAI主导的论文《Parameter-Efficient Sparsity for Large Language Models Fine-Tuning》,大模型参数高效稀疏训练算法PST被IJCAI(International Joint Conference on Artificial Intelligence)2022录取。论文通过减少模型稀疏训练过程中需要更新的参数量,从而减少大模型稀疏训练的时间以及资源开销。
IJCAI(International Joint Conference on Artificial Intelligence)是人工智能领域的顶级国际会议之一,涉及机器学习,计算机视觉,自然语言处理等多个方向。本年度会议投稿超过4500篇,录用率仅为15%,会议于7月在奥地利维也纳召开。此次入选意味着阿里云机器学习平台PAI在大模型优化方向上的研究达到了全球业界先进水平,获得了国际学者的认可,展现了中国深度学习技术在国际上的竞争力。
首个大模型参数高效的稀疏训练算法PST
论文核心内容是通过减少模型稀疏训练过程中需要更新的参数量,从而减少大模型稀疏训练的时间以及资源开销。近几年,越来越多的大模型被提出,这些模型的参数量从百亿到千亿甚至万亿,虽然它们可以达到很高的模型精度,但是过大的模型体积限制了这些大模型的实际落地应用。稀疏作为一个有效的模型压缩手段,可以将大模型压缩到较小的体积,使得它们能够以较少的资源较快的速度运行起来。然而,稀疏训练本身会引入额外的参数,从而使得大模型的稀疏训练需要占用更多的训练资源以及导致训练速度更慢。
针对这一问题,PST提出了一种参数高效的稀疏训练算法,通过分析权重的重要性指标,得出了其拥有两个特性:低秩性和结构性。根据这一结论,PST算法引入了两组小矩阵来计算权重的重要性,相比于原本需要与权重一样大的矩阵来保存和更新重要性指标,稀疏训练需要更新的参数量大大减少。对比常用的稀疏训练算法,PST算法可以在仅更新1.5%的参数的情况下,达到相近的稀疏模型精度。
PST技术已经集成在阿里云机器学习PAI的模型压缩库,以及Alicemind平台大模型稀疏训练功能中。为阿里巴巴集团内部落地使用大模型带来了性能加速,在百亿大模型PLUG上,PST相比于原本的稀疏训练可以在模型精度不下降的情况下,加速2.5倍,内存占用减少10倍。目前,阿里云机器学习PAI已经被广泛应用于各行各业,提供AI开发全链路服务,实现企业自主可控的AI方案,全面提升机器学习工程效率。
论文名字:
Parameter-Efficient Sparsity for Large Language Models Fine-Tuning
论文作者:
李与超、罗福莉、谭传奇、王梦娣、黄松芳、李深、白俊杰
论文链接:https://arxiv.org/pdf/2205.11005.pdf
- 阿里云和蚂蚁数科合作开发的实人认证产品适配华为HarmonyOS NEXT
- 联合阿里云,首批诚邀 30 家!Alibaba Cloud Linux 伙伴招募计划发布
- 阿里云“云创月汇,数智营销Go!”开启,带你玩转数字化营销
- MongoDB和阿里云携手驱动WeLab,引领超千万用户迈向智能金融未来
- 阿里云能耗宝:助力企业算碳节能
- 强强联合!Flat Ads出席云栖大会,加入阿里云“橙”云出海服务联盟
- 亚信科技亮相2023云栖大会 携手阿里云共推AI大模型 打造数字政务联盟
- 官宣!山石网科与阿里云签署战略合作
- 中国信通院联合阿里云、清华大学网络科学与网络空间研究院发布《“DNS+”发展白皮书》
- 2023云栖大会圆满结束,阿里云能耗云推进碳中和目标高质量实现
- 阿里云安全大模型投入使用,引领云上安全运营新体验
- 阿里云坚定科技平台定位,“风起云间”助力中小企业科技创新
- 受邀出席云栖大会,小影科技与阿里云共话出海新机遇
- DolphinDB x 阿里云,云服务合作伙伴+1
- 阿里云& NVIDIA TensorRT Hackathon 2023 决赛圆满收官
- 阿里云发布创业者计划:支持30000家创业公司,每家公司最高可获100万云资源