智源FlagOS×海光信息完成 MiniCPM5 Day0适配,效率追平NVIDIA原生
2026/05/27 14:49AI云资讯20204
近日,面壁智能正式发布并开源新一代端侧文本基座大模型MiniCPM5-1B。海光信息联合智源研究院众智FlagOS社区,依托FlagOS统一多芯片软件栈,第一时间完成该模型的适配与推理部署,实现“发布即支持”。海光DCU在所有测试场景下首Token延迟(TTFT)全面低于NVIDIA H20原生基线,用极致效率达成从云到端的国产算力生态覆盖。

MiniCPM5-1B以仅1B参数规模,在AA-Index权威榜单上取得17.9的高分,超越Qwen3.5-2B(16.3)等全部 4B 以下开源基座模型,展现出端侧模型少有的语言理解与推理能力。众智FlagOS社区基于vLLM-plugin-FL推理插件和底层算子库 FlagGems,快速打通MiniCPM5-1B在多款AI芯片上的推理链路。海光DCU依托FlagOS统一软件栈,无需修改业务代码即完成推理优化,真正做到了模型开源的当天同步可用。
首Token响应全面领先,交互体验突破
TTFT是衡量大模型交互响应速度的核心指标,数值越低,用户获得首次反馈的等待时间越短。经实测,海光DCU在多种并发、上下文长度等严苛场景下,TTFT全面低于NVIDIAH20原生部署基线。这意味着在智能客服、实时翻译、端侧助理等对响应速度敏感的应用中,海光平台可为用户带来更流畅、即时的智能体验,效率追平甚至超越业界主流。
此前,海光DCU已成功支撑DeepSeek系列等千亿级云端大模型的高效推理,如今又实现对1B级端侧模型的Day0适配。这一“云+端”全场景覆盖能力,证明了海光DCU与FlagOS统一软件栈的灵活性与可扩展性,无论大规模数据中心还是轻量化边缘设备,都能获得一致的开发体验与高能效算力。
极简部署,生态开放
开发者现可通过FlagOS社区获取相关推理插件与模型镜像,以极低迁移成本在海光平台上快速部署MiniCPM5-1B。底层优化自动生效,完全兼容原生接口及工具链,大幅缩短从开发到上线的周期。
本次MiniCPM5-1B的闪电适配,是海光信息、众智FlagOS社区与面壁智能紧密协作的又一成果,标志着国产AI芯片在端侧大模型领域已具备与国际主流产品同台竞技的能力。海光将持续参与异构算力协同建设,以高效、安全、可控的算力底座,加速大模型在千行百业的规模化落地。
相关文章
- 中科软携手海光信息,重磅发布EngineerAI算力一体机
- 海光信息亮相中国国际数字经济博览会,展现全栈国产算力方案
- 全栈算力底座赋能Agentic AI,海光信息亮相云栖大会
- 海光信息全场景金融算力方案亮相东博会
- 海光信息首发“词元经营双芯加速方案”,助力通信产业价值释放
- 海光信息亮相武汉内河展,首次展出水运港口数智化全栈方案
- 从“能对话”到“办业务”,海光信息支撑AI Agent加速落地
- 海光信息荣获第二十六届中国专利金奖
- 科大讯飞与海光信息共建“星光联合实验室”
- 海光信息携手中电信量子,深化量子科技合作
- 从“进棚”到“上屏”:海光信息打通影视制作到播出全链路
- 海光信息应志伟:让青年人才在国产算力平台上锤炼真能力
- 国产算力深入矿山腹地:海光信息为行业智能化转型打造可靠算力底座
- 双芯筑基!海光信息亮相用友2026全球商业创新大会
- 共筑生态,合作共赢 | 瀚高股份与海光信息签署战略合作协议
- 2026智能计算应用大会 | 数字认证与海光信息、麒麟软件联合发布一体化计算平台方案
AI企业
更多>>AI硬件
更多>>AI产业
更多>>AI技术
更多>>- 华为×华东师大联合研发时序预测基础模型,登顶国际权威时序测评双榜单
- 阶跃这次够狠:AA 全球开源前二,价格打到 Claude 的 1/8
- 科大讯飞发布Spark-Audio-1.0-Preview,全国产语音基座大模型实现从“听清”到“听懂”
- 全球最强开源模型 Kimi K3 发布,参数规模 3 万亿,真的是强!
- 范式变革!东软发布AI原生软件工程白皮书,重构软件产业底层逻辑
- KAT-Coder-Pro V2.5正式发布:从“写代码”迈向“做工程”,Agentic能力全面升级
- 自变量机器人王昊:训练世界模型需付出“时间税”,解决模态对齐是当务之急
- 腾讯发布CodeBuddy Security,用AI Agent实现更高效的代码审计









