未来必有AI芯片公司在市场中阵亡 但华为海思半导体却会越来越好

2018-11-07 16:29:18爱云资讯

AI(人工智能)已成一个热门话题。除了众所周知的各大互联网、科技巨头纷纷上马AI芯片研发项目外,几乎每一周里,人们都会听说一些名不见经传的创业公司要开发新一代AI芯片。尽管如此,Tirias Research的首席分析师凯文·科维尔(Kevin Krewell)却提醒人们:“目前,在机器学习处理领域,正充斥着许多新的主张,但只有真正可以应用的芯片和软件才能展现出实力。” Arteris的行销副总裁库尔特·舒勒(Kurt Shuler)在接受采访时也说,有时候,像AI芯片这样一个被媒体过度炒作的新兴市场中,未来哪些事情才会真的发生,大家必须从更深层次的产业链中去寻找答案。

据维基百科提供的信息显示,Arteris成立于2003年,总部位于美国加利福利亚州。Arteris是一家跨国技术公司,主要开发用于片上系统SoC半导体设计的片上互连结构技术,适用于各种设备,特别是移动和消费市场。Arteris专注于开发和分发片上网络NoC互连知识产权IP解决方案。Arteris以旗舰产品FlexNoC而闻名,该产品用于移动和无线的60%以上SoC设计。

近日,Arteris推出了新的互连IP以及名为FlexNoC 4的AI软件套件。据舒勒称,Arteris的产品旨在加速下一代深度神经网络DNN和机器学习系统的开发。当专为训练而设计的AI芯片比以往任何时候都更加强大、更加复杂,且经常与大规模平行处理器整合时,互连就显得格外重要。

舒勒还分享了Arteris已有的客户清单,包括许多默默无闻的创业公司和现有的系统供应商。在这份客户清单中,不仅有被英特尔收购了的Mobileye、恩智浦和东芝等知名大厂,也有在中国排名第一的芯片设计公司海思半导体。至于网络和自动化的机器学习类别,Arteris的客户还包括了Movidius和百度。舒勒说:“中国目前正在兴起一波AI芯片的淘金热。”中国正大力支持各种与此相关的活动。包括云天励飞、燧原科技、天数智芯、寒武纪科技和嘉楠耘智等多家中国公司都积极与Arteris合作,以投身到对AI芯片的研发。

Arteris已有客户

与应用处理器AP、物联网IoT芯片必须支持定义明确的架构相比较,AI SoC芯片则全然不同。舒勒说:“例如,应用处理器基本上就是一种架构。对于AI SoC芯片,每个人都还在尝试各种途径。”但到目前为止,还没有哪一种SoC架构能一统AI芯片领域,也没有一种所谓正确的AI SoC设计方法。舒勒进一步指出,这使得灵活性成为AI芯片设计中一项很重要的元素。

舒勒说:“目前大多都是由软件人员在开发AI芯片。”因此,软件开发人员可能会说,让我们看看这种特殊的DNN类型,我们都专精于数学,所以想弄清楚哪一部份能以硬体加速?每个人都跟着这样做,一直到有人终于问了,数据需要整理吗?我们应该清除不需要的数据吗?我们能开发出有助于更快得到答案的硬件产品吗?当然,但接下来,同样的软件类型起不了作用后,他们可能还会问,我们该如何加速这种卷积?对此,舒勒解释说,许多设计团队倾向于个别处理元素——每个元素都有一些数学成份、一些本地记忆体。然而,最终真正未解决的问题是数据流(data flow)。

虽然处理元素间必须能够彼此通信,但也必须管理处理元件和记忆体间的传输流量。舒勒这样说:“数据流是他们无法真正了解的问题之一。”但他们必须能够以最有效率的方式保持这些数据的传输。这就是互连IP和工具得以发挥作用的地方。

Arteris从与各种系统和芯片公司合作开发AI芯片的经验中,更清楚地知道了AI芯片在架构上面临的问题。舒勒谈到,目前主要有三大挑战。

他首先提到的是AI训练芯片,并指出网络拓扑、芯片尺寸太大,以及需要更大的频宽,包括芯片上数据流以及存取至芯片外接记忆体。舒勒解释道,关于网络拓扑结构,AI芯片设计人员通常会寻找网格、环形和圆环等元素,这有助于建立可预测的数据流。Arteris根据从AI芯片客户学习到的各种知识,在FlexNoC AI中打造了新的IP技术。舒勒说,该工具能够“自动产生拓扑结构”,为硬件设计人员提供了“定制、最佳化拓扑和个别网络路由器”的机会。

另一项重大设计挑战来自于设计人员必须能够实际处理大型晶片的现实问题。舒勒提到,他所见过的最大型AI芯片尺寸约20mm x 20mm,这是一款相当大的芯片了。芯片尺寸大小真的很重要,因为在AI芯片上跨越长距离时需要“较长的芯片路径,而这将导致时序收敛问题”。Arteris指出,新的工具提供的“来源同步通讯”和“虚拟通道链路“有助于解决这个问题。

大型AI芯片可能导致时序收敛等问题

第三项挑战是最经常被提到的问题,频宽。芯片上数据流以及存取至晶片外接记忆体都需要很大的频宽。

最近几个月,客户越来越关注于芯片是否能支持“群播(multicast)”。为什么需要群播?因为它能以尽量接近网络目标的方式播送数据,从而使芯片上和芯片外记忆体频宽的利用最佳化。舒勒表示:“这将更有效率地升级DNN权重、影像映射以及其他群播数据。”

AI芯片日益需要智慧群播功能

外接记忆体的数据经常需要移进移出,但由此带来的功耗,是在设计AI芯片时最头痛的问题。比如,创业公司Mythic期望将神经网络映射至NOR记忆体阵列。据该公司称,这种新的架构能以节省多达两个数量级的功耗计算和储存数据。但是,对于等不及Mythic推出商用产品的人来说,目前并没什么选择。他们必须找到最节能的方法以建立存取至芯片外接记忆体的途径。为此,Arteris提供了第二代高频宽记忆体HBM2和多通道记忆体支持工具,让设计人员能整合HBM2多通道记忆体控制器以及“8或16通道交错”。

HBM2和多通道记忆体支持

从Arteris获得IP授权的业者即可证实,许多创业公司和传统SoC芯片供应商都在设计AI芯片。然而,有趣的是,Arteris发布的设计工具也显示许多公司都面临相同的设计问题。事实上,大多数产业观察家都不大看好目前所有的AI芯片公司都能在五年后继续存活在市场中。

一位不愿透露姓名,并在一家AI公司担任主管的人说:“最终必然会有公司在阵亡。每一家创业公司都必须考虑如何退场,未来并非是一路顺风。”他看到一个可能的重要变数是”云端解决方案供应商和OEM的需求”,他们希望在内部开发自家的芯片。因此,他们很可能造成“一些创业公司的退场”。而在边缘端,仍然存在一些机会,但要和大型公司竞争也不容易。这将促使一些希望求生存的竞争者采取更高风险的路径。

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道
冀ICP备2022007386号-1 冀公网安备 13108202000871号 爱云资讯 Copyright©2018-2023