天数智芯联合无问芯穹完成智铠GPU百卡推理集群测试与适配,支持多场景大规模实时推理
2024/12/09 14:18AI云资讯25267

近日,天数智芯与无问芯穹达成重要合作,在天数智芯智铠GPU百卡推理集群上成功部署了无问芯穹Infini-AI异构云平台,并实现了多种主流大模型在该推理集群上的全功能适配,并正式对外提供MaaS服务。双方此次合作,旨在协力构建一个以自主芯片为核心的大模型服务生态,进一步推动我国人工智能产业的快速发展。

Infini-AI异构云平台是无问芯穹开发的一个基于多芯片算力底座的一站式大模型开发与服务平台,它打破了传统计算资源的限制,实现了对多种模型和计算卡的全面支持。
天数智芯自主研发的智铠100GPU,支持多种精度数据类型,灵活支持各种模型算法,兼容国内外主流AI生态,满足从基础研究到实际应用的全方位需求。
早在2024年7月,无问芯穹Infini-AI异构云平台就与天数智芯合作,打造了可进行单任务千卡规模异构芯片混合训练的大模型训练平台,千卡异构混合训练集群算力利用率最高达到了97.6%。
在本次合作中,经过双方严格的功能和性能测试,完成了智铠100 GPU产品与无问芯穹Infini-AI异构云平台的全面接入。该集群可灵活支持对话问答、数据标注、内容理解与分析,信息抽取等主流任务场景,满足文本、图片、视频等多场景下的大规模实时推理需求。当前,智铠100现已在无问芯穹Infini-AI异构云平台上线,可支持7B-72B参数的模型推理,用于更佳效果的数据生成与处理。Infini-AI是高性能算力和原生工具链平台,其中大模型服务平台可为应用开发者提供各种高性能、易上手、安全可靠的大模型服务,能力覆盖从大模型开发到大模型服务化部署的全流程。现已收录包括Stable Diffusion、Qwen2.5、CogvideoX、Llama3.1在内的多种主流大模型,支持模型一键微调部署、模型与ComfyUI workflow托管等功能。
平台用户可以屏蔽硬件生态影响,通过极少步骤操作调用各种模型API,实现模型的快速部署。同时,还能享受到与国际主流产品相比,具有更高性价比的算力服务。随着人工智能技术的快速发展及应用场景的拓展,国内大模型技术与应用企业对高可控性、高效能、高性价比、高附加值的算力需求日益迫切。双方此次合作极大地降低了AI应用的技术门槛和使用成本,更为自主芯片在人工智能领域的广泛应用开辟了新的道路。展望未来,天数智芯与无问芯穹将继续全面合作,在智算中心、央国企、互联网等领域,共建AGI时代的大模型算力基座、探索并推动应用普及和创新发展、加速行业的数字化转型步伐。
相关文章
- 宏杉科技:以存储加速AI推理,Alpha700重塑存算价值
- CIOE 2026观察:睿创微电子制冷机芯搭载AI,端侧推理让红外从“看见”走向“理解”
- 微珩启元一月内完成两轮融资,浙大博士团队以3D DRAM+近存计算破局AI推理“内存墙”
- 联想等推进AI创新:数据中心节能、在网计算与端侧推理提速
- 从双维度RSI到InferRSI,openJiuwen让模型拥有更适配的推理引擎
- 元石智算打通RISC-V全栈AI推理链路,持续推进RISMA异构战略
- 新加坡云服务商Ready Server推出ReadyServer LLM API,VPS用户免费获得私有AI推理能力
- vGPU 不能跑推理?AIOS 资源模式边界核对
- 华瑞指数云携手大普微亮相新加坡科技周,加速全球 AI 推理落地
- 微软 CEO:模型操控、质询与推理是 AI 智能体性能的核心驱动力
- 云尖信息推出10U16卡AI服务器:单机显存1.5TB,破解大模型推理“显存焦虑“
- 华为推出OceanStor M900 AI记忆存储,加速超大规模数据中心AI推理
- 国产GPU+类脑异构混合推理系统于2026中国算力大会全球首发
- 云图知行发布空间智能推理计算大模型,空间智能全球化布局再提速
- CFP 开放丨KCD 杭州站邀您共议 Agent 时代的云原生、可观测与大模型推理
- SK海力士联手闪迪推出高带宽闪存新标准,破解AI推理瓶颈









