Arm 发布全球首款 Armv9 边缘 AI 计算平台，为物联网应用带来超高能效与AI性能

Arm控股有限公司（纳斯达克股票代码：ARM，以下简称“Arm”）今日发布Arm®v9边缘人工智能(AI)计算平台，该平台以全新的Arm Cortex®-A320 CPU和领先的边缘AI加速器Arm Ethos™-U85 NPU为核心，可支持运行超10亿参数的端侧AI模型。

Arm高级副总裁兼物联网事业部总经理Paul Williamson表示：“AI的革新已不再局限于云端。随着世界的互联和智能化水平的日益提升，从智慧城市到工业自动化，在边缘侧处理AI工作负载不仅带来显著的优势，其必要性更是不可或缺。专为物联网打造的Armv9边缘AI计算平台的推出，标志着这一发展趋势迈入了重要的里程碑。”

Armv9边缘AI计算平台——在边缘集成效率、安全和智能

OEM厂商正面临着前所未有的压力，迫切需要快速推出解决方案，以应对物联网应用不断攀升的计算需求，这些需求包括自动驾驶车辆在工厂环境中的精准导航、智能摄像头通过软件升级灵活调整功能，以及构建能够提供更自然AI交互体验的人机界面。

为了快速创新和扩展，OEM厂商需要在合适的位置灵活执行AI工作负载，以实现更强大的安全性和更高的软件灵活性，Armv9技术正是能在大规模应用中满足这些需求的理想之选。Arm此次发布的计算平台集成了全新的超高能效Armv9 CPU——Cortex-A320和支持Transformer算子网络的Ethos-U85 NPU，打造出全球首个专为物联网优化的Armv9边缘AI计算平台。相较于去年推出的基于Cortex-M85的平台，新的边缘AI计算平台的机器学习(ML)性能提高了八倍。

Arm技术的广泛应用，使得合作伙伴现在能够在从云端到边缘侧的各种计算场景中部署强大的Armv9技术。从授权该技术以构建SoC芯片的合作伙伴，到构建下一代设备的ODM和OEM厂商，该平台受到了包括亚马逊云科技(AWS)、西门子、瑞萨电子、研华科技和Eurotech在内的多家业界领先合作伙伴的支持。

全新Cortex-A320为下一代智能物联网设备奠定安全基础

新型边缘AI计算平台的推出标志着边缘计算发展的重要里程碑。Cortex-A320为物联网带来了先进的AI功能和开发者优势，将Armv9架构的功能扩展到高能效设备，并提供全面的软件支持。

Cortex-A320充分发挥了Armv9架构的优势，如针对ML性能的SVE2。相较于前代产品Cortex-A35，Cortex-A320的ML性能提升了十倍，标量性能提升了30%。

该平台所采用的Armv9.2架构还为最小的Cortex-A设备带来了高级的安全功能，例如指针验证(PAC)、分支目标识别(BTI)和内存标记扩展(MTE)。这些功能至关重要，因为边缘设备通常在暴露的环境中运行并处理敏感数据。

随着边缘AI在Arm平台上持续集成，这一全新产品的加入使Arm现已能为物联网提供最为先进的Armv9 Cortex处理器系列，覆盖从极致性能到成本和能效受限的设备。

将Arm Kleidi扩展到物联网

边缘AI普及面临的最主要障碍之一是软件开发和部署的复杂性，这正是Armv9边缘AI计算平台软件生态系统发挥优势的关键所在。Arm将Arm Kleidi扩展到物联网，这是一套面向AI框架开发者的计算库，旨在优化基于Arm CPU的AI和ML工作负载，无需开发者额外操作。KleidiAI已集成到常见的物联网AI框架中，如Llama.cpp和ExecuTorch或LiteRT（通过XNNPACK），加速了Meta Llama 3和Phi-3等关键模型的性能。例如，在Llama.cpp上运行微软的Tiny Stories数据集时，KleidiAI为新的Cortex-A320带来了高达70%的性能提升。

这些提升至关重要，因为在当今快节奏的技术环境中，产品的上市速度往往决定其成败。新的边缘AI计算平台确保了与更高性能Cortex-A处理器在软件层面的无缝兼容。这种可扩展性使开发者能够打造可随需求变化而灵活调整的解决方案。借助庞大的Armv9生态系统，以及与Linux等功能丰富的操作系统和Zephyr等实时操作系统的兼容性，开发者拥有了前所未有的灵活性。他们可以充分利用现有的工具和知识，以及软件复用的优势，从而加快产品上市时间，并降低总体拥有成本。全球范围内有2,000多万活跃的Arm开发者，这为未来的技术创新提供了巨大潜力。

展望未来

展望未来，显然AI的未来趋势将转向边缘，而全新Arm边缘AI计算平台将成为新一轮物联网创新的催化剂。Armv9架构的特性、先进的AI功能和全面软件支持的结合，为OEM厂商和开发者创造了新的可能性。

该平台能够支持基于智能体的AI应用上运行经过调优的大语言模型(LLM)和小语言模型(SLM)，从而开辟全新类别的边缘应用场景。在未来的场景中，智能决策将更接近数据采集源头，这不仅能显著减少延迟，还能有效提升隐私保护水平。

这不仅仅是一次渐进式的进步，它代表着行业对边缘计算和AI处理方式的根本性变革。这是行业首次迎来专为物联网应用优化的Armv9 CPU，将超高能效与先进AI能力结合，实现了前所未有的突破。

边缘AI的发展速度之快，远远超出了人们的预期。随着需求的不断增长，端点设备需要更高性能、能效、安全性和灵活性，可以说，当前的设备已经或即将“掉队”。从长远来看，AI设备的升级成为一个必选项。在这方面，Arm早已准备好了理想的技术方案，Armv9边缘AI计算平台的发布给IoT产业带来了不小的惊喜，后续将会给行业带来如何的创新和改变，让我们拭目以待。