终端与云端并进 高通人工智能AI探讨

人工智能作为目前手机的最热门功能，是可以与5G相媲美的未来手机发展趋势。即使在我们目前所使用的4G手机中，人工智能也已经比不可少，手机中的很多功能已经要借助于人工智能性能来实现，生物特征解锁、拍照、语音助手、AR识别翻译等功能都是如此。

人工智能离不开模型算法的优化，同样也离不开底层硬件所提供的性能支持。高通方面作为手机市场中最主要的供应商之一，对于人工智能方面也有着一套独特的做法，高通在人工智能方面有哪些特色，高通产品市场总监刘学徽就为我们进行了一番分享。

云端与终端缺一不可 终端侧性能影响最终体验

人工智能在近年的发展比较迅速，其主要有终端侧与云端两种不同的配备方案。两种方式各有所长，云端的优势在于它的资源非常丰富，不管是计算资源、能效还是内存，都可以通过强大的计算能力来实现相应的运算处理。终端侧的限制条件较多，计算力、电池、存储空间都会受到限制，更适合做一些快速的运算。

人工智能的运用，显然是要通过云端与终端两方面相结合才能够获得优秀的体验。目前的手机市场中，在云端方面大多负责AI模型的培训，毕竟这方面所需要的大规模运算时，在终端侧根本无法实现。另外云端侧还要负载在终端侧无法处理的信息。

终端侧则使用云端已经训练好的模型，力图以最小的功耗来提供最优秀的性能表现。因此就实际的用户体验来说，终端侧与用户的联系是远远超过云端的，而影响人工智能使用体验的主要因素，也是在于我们手机终端侧的性能表现上。

高通三代AI引擎迭代 打造生态推动AI发展

高通作为AI方面的主要推动者之一，十分注重终端侧性能表现，骁龙人工智能引擎（AIE）目前已经发展到了第三代。高通早在2008年就开始涉足AI方面，在2015年开始推出产品，当时Facebook率先在AI方面定义了Caffe模型，高通骁龙820就在CPU上实现了Neon加速。

第二代支持AI的平台骁龙835，已经通过神经处理SDK很好地支持了TensorFlow和Caffe两大主流框架。CPU、GPU和DSP均可以支持运算，尤其是在GPU和DSP上，能够让AI运算的性能和功耗都得到显著优化。

随着AI的兴起以及整个市场规模的不断壮大，在TensorFlow、Caffe之外，百度PaddlePaddle、商汤Parrots、Android NN等等模型的推出，对终端侧提出了更高的要求。骁龙845平台作为高通的第三代AI平台，对上述模型有着全方位的支持。

人工智能AI方面除了硬件的基础性能外，软件优化也能够显著的提升性能表现。基于高通方面的测试数据，在硬件配置完全相同的情况下，对软件方面的优化能够大幅提升性能表现，在一年的时间里就能让性能翻一番。因此，高通人工处理引擎AI Engine不仅是硬件上的提升，同时强调软件对模型、算法的支持和优化。

此外，高通方面还在与整个生态系统合作伙伴共同推动AI的发展。商汤、Face＋＋、虹软等厂商所推出的创新性的算法和应用在驱动高通方面不断的进行改进。同时，高通也与腾讯等云端服务商合作，借助骁龙神经处理SDK来进行终端侧的实际应用。比如手机QQ的“高能舞室”功能，就是直接运行在手机上的人工智能神经网络，无需在云端进行处理。

AI性能衡量标准 要看模型与效率

在面对以往设备的性能问题上，往往都具备一个大家所公认的基准测试标准，也就是俗称的跑分，但是AI所诞生的这三年时间里，却并没有一个所公认的标准，大家对于AI方面的性能描述，还要依靠实际的使用，这也导致用户对于AI性能没有一个衡量标准。

对于AI基准测试，高通方面认为有三个至关重要的指标：第一是准确率，第二是性能，第三是能效。上述三个重要指标的实现，可以在真实使用环境中带来很好的用例，而真实生活中的用例才应是衡量AI基准测试真正关键的指标，并不仅仅是网路，而是真正的通过神经网络带来的用例。

现在市面上有很多基准测试工具，使用的模型不同、权重不同，那么测试结果也会不同。甚至有些模型完全没有实际的应用落地，只是能够进行压力测试，而这样的模型所表现出的性能基准测试成绩，甚至可以说是毫无意义。高通方面对于目前主流的神经网络模型进行了一个曲线分析，ResNet50和Inception－V3是当下在终端侧效率最高的，能够让用户获得最好的体验，是高通方面认为基准测试应当最为看重的。

另外AI基准测试软件的性能表现，会受到测试机型驱动程序的影响，如果不使用最新的软件版本的话，是无法启用相应硬件的加速的。高通方面对于新版本系统的驱动程序已经进行了跟进，最新的Android 9．0系统中，高通方面已经开始了Adreno GPU的驱动程序更新，在运用新款驱动后，在AI基准性能测试中的成绩会有很明显的变化。