边缘侧AI芯片设计的4大难题及解决之道

在过去的几年里，人工智能（AI）甚嚣尘上，热度一直不减，但泡沫化程度也很高。随着技术的成熟，以及应用场景的逐渐清晰，在2019年，整个AI行业开始回归理性。用云知声董事长/CTO 梁家恩的话说就是：AI已经过了靠刷榜炫技博眼球的发展阶段，必须要能实实在在地解决产业问题，才能够持续地发展下去。

作为一家成立于2012年的AI企业，云知声一直是以AI相关算法及语音应用见长，但随着技术的成熟和应用的逐步清晰，该公司意识到AI芯片的重要性逐年提升，未来要想发展，必须做专用的AI芯片。而由于具有先天的算法技术优势，有利于设计专用的AI芯片。因此，云知声于2014年开始布局芯片业务，经过4年的研发和耕耘，于2018年流片成功，正式跨入专用AI芯片市场。

据梁家恩介绍，云知声的AI哲学可以概括为两个词：全栈，硬核。其中，全栈的目标就是要聚焦产业闭环价值，而硬核则是要解决产业闭环核心问题。该公司的AI硬核技术能力涵盖4大板块，分别是：语音感知与表达，语言与知识计算，AIoT芯片，以及超算平台。其中，AIoT芯片作为硬核技术最为重要的一环，起着产业落地支撑的作用。

目前，云知声只做边缘侧的AI芯片，未涉及数据中心和云端。

在谈到AI芯片设计的挑战时，该公司副总裁李霄寒将其归结为4个方面：首先是应用场景问题，传统上，多采用通用芯片实现AI功能，而要设计边缘侧的专用AI芯片，就必须与具体的应用场景结合起来，针对具体的应用来提供相应的功能和性能，这也是符合物联网端侧特点的。这些就需要企业和设计人员具有全栈式的思维和设计能力；第二个挑战，就是冯诺依曼内存墙，即运算构件与存储构件之间大量的数据交换限制了系统的运算效率。目前业界的解决办法包括推出类脑芯片，以及PIM等；第三个挑战就是低功耗需求，对于物联网应用而言，边缘侧的低功耗需求十分迫切，而低功耗设计又是一个系统工程，需要考虑多种因素，除了传统考量外，还要考虑应用场景和算法；第四个挑战就是安全问题，包括系统IP被非法窃取，端侧产品被非法控制，用户信息被非法窃取等等。

为了解决以上挑战，云知声提出了一系列的解决方案。首先，在应用场景方面，该公司在前些年，基于其在算法方面的积累和优势，先用通用芯片去探路，摸清市场的实际需求是什么，在哪里，这之后再做专用的AI芯片，目前正处于该阶段。

要解决冯诺依曼内存墙问题，就要构建一个矮墙，云知声的思路是架构级近算存储设计。此外，该公司还开发了DeepNet内部近算存储结构，可实现更矮的墙。据李霄寒介绍，DeepNet内部是分布式的存储结构，其运算算子可分配合适的近算存储资源，从而避免了低效的数据交换。这样可以将CPU的利用率提升到60%（传统只有10%左右），大大减少了搬运数据的时间。

对于低功耗需求，该公司主要依靠其低功耗的语音唤醒技术，此外，还有低功耗的机器视觉专用microISP，其专门为机器视觉而设计，可以让后续的机器学习处理相关信息时更加顺畅。

在应对安全问题方面，云知声进行了安全IP规划，可以提供相关的安全保证。

多模态AI芯片蓄势待发

云知声于2018 年 5 月正式发布了其首款物联网专用 AI 芯片，即 UniOne 第一代产品——雨燕，这是一款单模态的语音专用AI 芯片。据悉，该公司不仅提供雨燕芯片，还提供相应的开源解决方案，包含芯片、引擎、应用，甚至还有云端服务，以及手机 APP 代码。据李霄寒介绍，这样做，有利于客户快速部署其产品，省去了找第三方开发各种应用的时间和成本。

今年1月，该公司对外宣布了其多模态 AI 芯片的研发计划，即不局限于其具有传统优势的语音应用领域，而是向语音、图像和视频等多模态AI芯片方向发展。据悉，第一代雨燕芯片采用的是该公司自行研发的 DeepNet 1.0，而其正在研发的新一代多模态 AI 芯片则采用了升级版本—— DeepNet 2.0。

据悉，云知声以 DeepNet 2.0 IP 为核心的 AI 架构，算力可以达到 4T。DeepNet 2.0 是多模态神经网络处理器 IP，其主要特点是可以支持多种推理网络兼容，如 LSTM、CNN、RNN 以及 TDNN 等；支持可重构计算；还支持 Winograd 处理，将乘法计算量降至原先的一半以下，大幅提升了计算效率。李霄寒表示，DeepNet 2.0 是相对通用的 IP 核，既可以满足音频应用需求，也可以实现对图像的处理。

另外，DeepNet 2.0 还支持多 NPU 的组网，组成模块化的网络，来支持算力的需求。

据悉，该公司正在研发的多模态AI芯片分别是面向物联网的雨燕-Lite，这是第一代雨燕的升级版本；面向智慧城市的海豚（Dolphin）；面向智慧出行的车规级芯片雪豹（Leopard）。