人工智能的增长速度比摩尔定律快数十倍
2020-08-18 13:08:24爱云资讯
摩尔定律最初指出了一种趋势,即集成电路上的晶体管数量每1.5年增加一倍。曾协助推出 GeForce Experience的前NVIDIA工程师James Wang说,人工智能(AI)的发展速度比摩尔定律快5到100倍。
2010年到2020年,花费在AI培训模型上的计算机处理能力非常强劲地在增长。在下图中,纵轴是处理能力,“ Petaflop /天”表示每天每秒执行4万亿次操作。
自 1958年推出Perceptron以来,处理能力每两年翻一番,直到2010年左右。
但是,从2010年到2020年,处理能力正以每年约10倍的速度增长,如下图所示,比摩尔定律快5倍以上
诸如 Google的Alpha Go Zero和Tesla的Autopilot之类的大公司正在投入大量的AI开发工作,以期获得长期的投资回报,自行进行深度学习以及与大学合作进行研究开发正在进行中。
另一个重要的一点是,人工智能深度学习的培训成本每年下降了10倍。例如,在2017年左右,在公共云上训练像ResNet-50这样的图像识别网络大约花费了1,000美元(约合108,00元),但在2019年所需的成本约为10美元。到(约108元)。在下图中,垂直轴是成本,水平轴是年和月,每个点是Legacy GPU(黑色),表示旧版NVIDIA GPU ,NVIDIA的Volta GPU
如果维持从2017年到2019年的成本下降趋势,到2020年,成本可能会降至1美元。
在下图中,垂直轴代表成本,水平轴代表年和月。分类约10亿张图像的成本在2017年约为10,000美元,但在2020年仅为约0.03美元已经下降到。
将与深度学习相关的成本变化率与摩尔定律进行比较,Wang认为其变化是摩尔定律的10到100倍。硬件和软件的突破使得大幅降低成本成为可能,IC芯片和系统设计技术在2017年至2020年之间发生了巨大的发展,并且专用于深度学习的硬件也已经出现。在做。
下图显示了由斯坦福大学基准测试得出的NVIDIA Tesla硬件和软件的性能评估,其中纵轴为性能改进率,横轴为NVIDIA Tesla版本名称。查看下图左侧的图表,您可以发现Tesla V100的性能比Tesla K80提升了约16倍。
此外,V100 Tesla TensorFlow和PyTorch中的深度学习框架通过结合新的培训方法,据报道,在正确的视角下,软件性能已提高了约8倍。
同时,硬件成本并没有下降,而且多年来一直很高。例如,用于数据中心的NVIDIA GPU的价格是过去三代的三倍。自2017年Amazon Web Services推出NVIDIA的Tesla V100以来,该服务的价格一直保持不变。
如果人工智能技术继续发展,那么与人工智能相关的公司在全球股票市场中的市值将大大增加。下图显示了与信息技术(黑色),互联网(蓝色),人工智能和深度学习(绿色)相关的公司的市值。纵轴表示全球股票市场的份额,横轴表示年份。截至2019年,人工智能在世界股票市场的市值约为1万亿美元,但到2037年它将扩展到30万亿美元。 Wang推测其市值将比互联网公司更高。
鉴于AI的计算能力不断增强,深度学习的成本不断下降以及股票市场的市值,Wang表示:``人工智能仍在发展中,并且可能会持续数十年增长。''
- 《2024人工智能与职场研究报告》发布: AI已多领域渗透,就业模式将被重塑
- HID 2024年安防趋势报告:人工智能的应用日益增多
- AI FOR ENGINEERS研讨会:推动人工智能技术赋能工程仿真创新
- 思科重新构想人工智能时代的数据中心与云端安全
- AI赋能出版新质生产力发展 蜜度承办人工智能与出版新质生产力论坛
- 小影科技参编《生成式人工智能数据应用合规指南》团体标准正式发布
- 云天励飞助力深圳高级中学启用人工智能联合实验室,共绘智慧教育新篇章
- 中国人工智能发明专利企业排行榜揭晓 OPPO位列第九
- 聚焦人工智能编程教育,点猫科技亮相第83届中国教育装备展
- 浪潮信息IPF24: 发展人工智能+,创新需要激发活力、拓展路径、加速落地
- “元脑”品牌全面升级!浪潮信息全力进击人工智能
- 云测数据入选2024全国“人工智能+”行动创新案例TOP100
- 智联世界·“模”生未来-2024人工智能论坛在北京隆重召开
- 人工智能领域的关键挑战:高质量的训练数据处理能力
- Viettel开设越南最大的数据中心,通过部署绿色技术,为人工智能发展做好准备
- Cognex 推出全新人工智能 3D 视觉系统