星凡科技,推理算力产品领航者
2024-11-27 17:58:38AI云资讯11229
“星算计划”由国星宇航、星凡科技联合之江实验室及行业头部上市公司、科技独角兽共同发起,旨在构建领先的地空一体化人工智能算力网络。项目规划2024年到2032年,完成3000颗太空算力卫星发射并组网,同时地面建设100个地基训推一体化算力节点,建成后总算力预计将达到80000P。“星算计划”打造的地面算力节点网络系统性优势,结合太空算力形成天数天算、地数地算的协同服务,助力千行百业等诸多领域完成数智化转型,开启智算服务新篇章。
星凡星启(成都)科技有限公司(以下简称“星凡科技”)作为国内领先的人工智能推理算力产品提供商,以其自有推理芯片“星核”及异构中间件加速平台X-Boost为基础,为“星算计划”中全国的地面训推一体化算力中心及太空卫星算力节点,打造高性能、低功耗的AI算力产品,助力“星算计划”快速落地。
近年来,随着人工智能的快速发展、大模型等技术应用对数据需求和模型参数的逐步上涨,对更大规模、更高性能的计算能力提出需求。而以Open AI发布SORA、GPT-O1为代表大模型、多模态,处理复杂问题的能力更强,推进大模型在更多领域的应用,从而催生推理算力需求的快速增长。
同时国产算力发展痛点也备受关注:算力中心建设成本高、性价比低、运营回本周期长;模型使用者算力成本高、单一芯片难满足多元化算力需求、模型嫁接难适配难等都成为迫在眉睫的问题。而星凡科技的软硬一体算力产品给出了优质的解决方案。
星凡科技软硬一体算力解决方案核心分为硬件和软件两大部分。核心硬件,星凡科技采用自研“星核”大模型推理芯片,具有高并发、高吞吐、高能效、高性价比的特点,性能、功耗、显存等核心指标处于国内前列水平,同时结合星凡独创大模型压缩方法,可使模型推理性能提升数倍,并保障模型压缩后精度损失最小化。
软件上,公司自研异构中间件加速平台X-Boost,为国内领先支持异构算力的全性能优化平台。平台向上深度适配主流大模型及各类传统深度学习算法,向下兼容英伟达及国产主流芯片,解决模型适配难痛点,并提升大模型在国产芯片上推理性能。同时X-Boost内置公司自研大模型加速工具、算子优化工具等,针对大小模型均能实现在保证精度的前提下,最高可实现8倍综合性能效提升,显著提高计算资源利用率。
基于自有软硬件、国内外主流AI芯片,星凡科技打造训推一体化算力集群、推理侧算力集群、超新星分布式微算力中心等软硬一体化AI算力产品,赋能算力中心建设方、垂直行业等客户。产品实现算力集群的SOP单元化,能以AI POD形式进行整体快速复制和纵向扩展,快速形成超大规模算力资源。同时在X-Boost的加持下,集群吞吐量及可部署模型数量均提升1-2倍,最高可降低45%以上的算力中心运营电费成本,解决算力中心业主方、行业用户建设成本高、运营回本周期长、算力使用贵等痛点。
目前,星凡科技软硬一体算力产品获得下游客户的广泛认可,并已支持多地区建设高性价比智算中心,并布局拓展商业航天、政务、文创、交通等垂直行业。未来,星凡科技将继续深化软硬一体算力产品的技术创新与应用拓展,致力于构建更加高效、智能、绿色的算力生态体系。
相关文章
- 产业AI大模型万联摩尔上线,从“通用”到“专用”的必然路径
- 云从科技入选大模型一体机产业图谱 以全栈能力推动AI落地新范式
- 百度王海峰:通用大模型与场景大模型相辅相成 并非割裂
- “工具”到“伙伴”:科大讯飞展示大模型如何助力教育减负增效
- 升级版“蓝心小V”亮相,豆包大模型助力vivo打造AI原生体验
- 讯飞星火燎原86届教装展,全栈自主可控国产教育大模型助推教育数字化转型
- 京东11.11直播技术全面升级,立影3D技术、JoyAI大模型重构沉浸式购物体验
- 云知声AGI落地智慧生活:推出“智能拍学机”等多款“智能硬件+大模型”解决方案
- 128 卡 4 天时间!百度百舸助力 LLaVA-OneVision-1.5 刷新多模态大模型训练效率纪录
- AI防护,与时俱进:信通院X电子科大X腾讯云共话大模型安全
- 金蝶征信“金融风控大模型” 摘得AFAC2025大奖
- IDC权威报告:中能拾贝强势登榜IDC中国工业大模型应用市场第一梯队
- 科大讯飞同传大模型再升级,上海、迪拜同发讯飞AI翻译耳机
- 以科技创新推动产业创新专题|国际认可!FRC开创专家经验更有效传递给大模型的新范式
- 创新奇智AInnoGC工业大模型,中国市场份额第一
- 容联云以AI+金融实践,入选「大模型厂商全景报告」核心阵列









