人工智能初创公司Graphcore推出了Nvidia竞争对手
2020-07-19 18:18:44爱云资讯
一家英国芯片初创公司推出了它声称是世界上最复杂的AI芯片Colossus MK2或GC200 IPU(智能处理单元)。Graphcore将其MK2与Nvidia的适用于AI应用的Ampere A100 GPU进行对比。
MK2及其前身MK1专为处理非常大型的机器学习模型而设计。MK2处理器具有1,472个独立的处理器核心和8,832个独立的并行线程,所有这些均由900MB的处理器内RAM支持。
Graphcore表示,MK2的BERT-Large训练性能比MK1改进了9.3倍,BERT-3Layer推理性能提高了8.5倍,EfficientNet-B3培训的性能提高了7.4倍。
BERT,即来自变压器的双向编码器表示形式,是Google为基于自然语言的搜索而开发的自然语言处理预训练技术。
Graphcore不仅会提供芯片。对于一家相对较新的创业公司(成立于2016年),Graphcore围绕其芯片构建了卓越的生态系统。大多数芯片初创公司只关注其硅片,但是Graphcore提供了更多的东西。
它通过其新的IPU机器M2000出售GC200,该IPU机器M2000在1U盒中包含四个GC200芯片,并提供1 petaflop的总计算能力。Graphcore指出,您可以从直接连接到现有x86服务器的单个IPU-Machine M2000盒子开始,或者添加总共八个连接到一台服务器的IPU-Machine M2000。对于大型系统,它提供IPU-POD64,其中包括内置在标准19英寸机架中的16台IPU-Machine M2000。
通过Graphcore的全新IPU-Fabric技术可以大规模连接IPU-Machine M2000和IPU-POD,该技术是专为机器智能通信而设计的,并提供了专用的低延迟结构,可以在整个数据中心连接IPU。
Graphcore的Virtual-IPU软件与工作量管理和编排软件集成在一起,可为许多不同的用户提供培训和推理服务,并且它允许对可用资源进行调整,并根据工作进行重新配置。
这家初创公司表示,其新硬件完全是即插即用的,客户将能够将多达64,000个IPU连接在一起,总共拥有16 exaFLOP的计算能力。
这是一个很大的要求。英特尔,ARM,AMD,富士通和Nvidia仍在朝着exaflop的目标迈进,而Graphcore声称是后者的16倍。
Graphcore的另一个关键要素是其Poplar软件堆栈,该堆栈由IPU从头开始设计,并与标准机器学习框架完全集成,因此开发人员可以轻松移植现有模型,并在熟悉的环境中快速启动并运行。对于希望完全控制以利用IPU发挥最大性能的开发人员,Poplar支持使用Python和C ++直接进行IPU编程。
Graphcore有一些重要的MK2系统早期采用者,包括牛津大学,美国能源部的劳伦斯·伯克利国家实验室和JP Morgan,后者致力于自然语言处理和语音识别。
IPU-Machine M2000和IPU-POD64系统现已开始预订,并于2020年第四季度开始批量生产。早期访问客户可以通过Graphcore的云合作伙伴Cirrascale在云中评估IPU-POD系统。它计划在未来几个月内宣布OEM和渠道合作伙伴。
- Viettel开设越南最大的数据中心,通过部署绿色技术,为人工智能发展做好准备
- Cognex 推出全新人工智能 3D 视觉系统
- Enine亿玖携手技嘉GIGABYTE如约亮相2024深圳(国际)人工智能计算大会
- 生成式人工智能雅思培训项目引行业关注
- 震撼来袭,精彩前瞻|2024人工智能大模型产业发展大会即将召开
- 昆仑万维发布面向人工智能时代的六条人才宣言
- “人工智能+出海”大有可为,钛动科技以AI驱动企业降本增效
- 美图公司吴欣鸿:推动人工智能在影像与设计领域的应用落地
- 为新质生产力“添柴加薪”,呼和浩特与百度共建人工智能基础数据产业基地
- 昇思人工智能框架峰会2024圆满落幕|软通动力大模型一体机发布
- 明途工作大脑垂直行业模型WorkBrain V3.5,落实“人工智能+”行动
- 思科最新研究:全球超四分之一企业因数据隐私和安全考虑禁止使用生成式人工智能
- 智能校对大模型文修2.0重磅发布:赋能“人工智能+办公”转型升级
- 昇思MindSpore 2.3全新发布 | 昇思人工智能框架峰会2024圆满举办
- 卓翼智能无人机+人工智能助力森林防灭火,科技赋能守护绿色林海
- 上海人工智能实验室发布自动驾驶视频生成模型GenAD