腾讯云TencentOS Server AI,助力荣耀打造高性能AI底座
2025-06-09 18:06:05爱云资讯2183
随着生成式AI技术的爆发式增长,AI大模型开始渗透至手机领域,一线厂商已经把AI应用集成到各自最新的产品中,并且在以惊人的速度迭代。为了进一步提升大模型部署的效能,荣耀基于应用腾讯云TencentOS Server AI中提供的TACO-LLM加速模块部署DeepSeek-R1等开源大模型,并应用荣耀企业内部等场景,稳定性、可靠性、推理性能均大幅提升。
在推理平台场景中,荣耀侧重关注框架效能、稳定性、运行状态监控及应急预案等特性。使用TACO-LLM进行推理任务后,在DeepSeek-R1 满血版场景下,相对于荣耀原始线上业务性能,TTFT(首Token 延迟)P95 的响应时间最高降低6.25倍,吞吐提升2倍,端到端延迟降低100%。在社区最新版本sglang场景下,TTFT P95的响应时间最高降低12.5倍。
腾讯云TACO-LLM之所以能够对荣耀业务的性能提升如此明显,主要的得益于多种投机采样技术核心能力:大语言模型的自回归解码属性无法充分利用GPU的算力,计算效率不高,解码成本高昂。而TACO-LLM通过投机采样的方式,从根本上解决了计算密度的问题,让真正部署的大模型实现“并行”解码,从而大幅提高解码效率。
荣耀大数据平台部相关负责人表示:“荣耀使用腾讯云 TACO-LLM 打造高性能的AI底座,部署稳定可靠,提升了性能加速体验。”
TencentOS Server AI加速版中提供的TACO-LLM加速模块,针对企业级AI模型私有化部署挑战,对大语言模型业务进行了专门的内核运行优化,用于提高大语言模型的推理效能,提供兼顾高吞吐和低延时的优化方案,能够“无缝”整合到现有的大模型部署方案中。
相关文章
- “金融智能体创造营”启航,赞同科技携手腾讯云共绘金融AI生态新图景
- 2025 WAIC丨腾讯云副总裁吴运声:把AI变成全新生产力
- 腾讯云TencentOS提交Swap Table补丁系列 Linux内核内存交换性能提升20%~30%
- 腾讯云GooseFS团队与厦门大学合作成果 AC-Cache入选 PPOPP
- 腾讯云TencentOS Server V4 全面支持安全启动,引导程序获微软签名
- 腾讯云携手IEEE发布全球首个金融风控大模型标准,推动金融风控范式创新
- 腾讯云x泡泡玛特:全方位云上守护,让潮玩回归热爱
- 腾讯云 TVP 走进苏州名城,探寻云 + AI 驱动文旅产业智能化跃迁
- 从具身智能到行业应用,腾讯云携业界专家共话AI新趋势
- 腾讯云零信任堡垒机上线,安全效率两手抓
- 自然语言转SQL再突破!腾讯云TCDataAgent斩获国际榜单全球第三、国内第一
- 腾讯云联合Gartner权威发布《Data+AI下一代数智平台建设指南》
- 腾讯云联合Gartner发布《Data+AI下一代数智平台建设指南》
- 腾讯云首次亮相科技盛会VivaTech,助力欧洲企业掘金AI时代
- 腾讯云董志强:构建内生安全能力需要云平台高等级安全架构
- 3400亿研发铸就里程碑,腾讯云数据库核心专利首摘中国专利金奖